Comment les IA de haut-parleurs intelligents comme Alexa et Siri renforcent les préjugés sexistes
L'Unesco exhorte les entreprises technologiques à proposer des versions non genrées de leurs assistants vocaux
Le HomePod d'Apple est alimenté par l'assistant vocal Siri
Justin Sullivan/Getty Images
Les haut-parleurs intelligents alimentés par des assistants vocaux d'intelligence artificielle (IA) qui sonnent féminins renforcent les préjugés sexistes, selon un nouveau rapport de l'ONU.
Des recherches menées par l'Unesco (Organisation des Nations Unies pour l'éducation, la science et la culture) ont révélé que les assistants d'IA tels qu'Alexa d'Amazon et Siri d'Apple perpétuent l'idée que les femmes devraient être soumises et tolérantes à l'égard des mauvais traitements, car les systèmes sont obligeants et désireux de plaire, Le télégraphe quotidien rapports.
Le rapport – intitulé Je rougirais si je pouvais, en référence à une phrase prononcée par Siri à la suite d'un commentaire sexuel – indique que les entreprises technologiques qui font de leurs assistantes vocales des femmes par défaut suggèrent que les femmes sont des assistantes dociles qui peuvent être disponibles au toucher. d'un bouton, ajoute le journal.
L'agence accuse également les entreprises technologiques de ne pas avoir mis en place de garanties appropriées contre un langage hostile, abusif et sexiste, rapporte Le bord .
Au lieu de cela, la plupart des IA répondent aux commentaires agressifs avec une blague sournoise, note le site d'actualités technologiques. Si on lui demande de faire un sandwich, par exemple, Siri répond : je ne peux pas. Je n'ai pas de condiments.
Des entreprises comme Apple et Amazon, composées d'équipes d'ingénieurs majoritairement masculines, ont construit des systèmes d'IA qui amènent leurs assistantes numériques féminisées à accueillir les abus verbaux avec un flirt d'attrape-moi si tu peux, selon le rapport de l'Unesco.
Qu'est-ce que d'autres recherches ont trouvé?
Le rapport de l'Unesco cite une multitude d'études, y compris des recherches menées par la société de technologie américaine Robin Labs, qui suggèrent qu'au moins 5 % des interactions avec les assistants vocaux sont sans ambiguïté sexuellement explicites.
Et l'entreprise, qui développe des assistants numériques, estime que le chiffre est susceptible d'être beaucoup plus élevé en raison des difficultés à détecter les discours sexuellement suggestifs, Le gardien rapports.
L'agence des Nations Unies mentionne également une étude du cabinet de recherche Gartner, qui prédit que les gens auront plus de conversations avec l'assistant vocal de leur haut-parleur intelligent que leurs conjoints d'ici 2020.
Les assistants vocaux gèrent déjà environ un milliard de tâches par mois, allant de la lecture de chansons à la prise de contact avec les services d'urgence.
Bien que certains systèmes permettent aux utilisateurs de changer le genre de leur assistant vocal, la majorité active bien évidemment les voix féminines par défaut, le BBC rapports.
Le rapport de l'Unesco conclut que cet apparent parti pris sexiste mérite une attention urgente.
Comment les entreprises technologiques pourraient-elles s'attaquer au problème ?
L'Unesco soutient que les entreprises devraient être tenues de faire annoncer à leurs assistants vocaux qu'ils ne sont pas humains lorsqu'ils interagissent avec les gens, rapporte Les temps du dimanche .
L'agence suggère également que les utilisateurs aient la possibilité de sélectionner le sexe de leur assistant vocal lorsqu'ils obtiennent un nouvel appareil et qu'une option non sexiste devrait être disponible, ajoute le journal.
En outre, les entreprises technologiques devraient programmer des assistants vocaux pour condamner les abus verbaux ou le harcèlement sexuel avec des réponses telles que non ou qui ne sont pas appropriées, selon l'Unesco.
Les entreprises technologiques n'ont pas encore répondu à l'étude.
