Ce site utilise des cookies
Vos données sont privées, nous le savons, c'est pour ça qu'on en fait pas n'importe quoi.
×

 

 

 

 

 Le futur est entre vos mains

 

 

Le futur est entre vos mains

vendredi, 20 avril 2018 19:09

L'IA a un problème de genre

Un article paru sur le site internet du World Economic Forum souligne les biais actuels de l'IA.                                                                                                              


Trois applications de l'intelligence artificielle (AI) parmi celles qui ont la croissance la plus rapide ont été construites sur des stéréotypes de genre - l'industrie des sexbots est en plein essor, les systèmes d'armes autonomes prolifèrent et les assistants virtuels et soignants sont de plus en plus populaires. Les machines de demain sont susceptibles d'être soit misogynes, soit violentes ou serviles.

The Guardian en 2017 a rapporté que l'industrie de la sex tech, y compris les sex toys intelligents et la pornographie en réalité virtuelle, est estimée à 30 milliards de dollars. Ce n'est que le début. Elle est sur le point de lancer des robots sexuels féminins avec des organes génitaux sur mesure et même des systèmes de chauffage, le tout dans le but de créer une expérience sexuelle satisfaisante.

L'avènement des machines obéissantes sexuellement - qui sont conçues pour ne jamais dire non - est problématique non seulement parce qu'elle introduit l'idée selon laquelle les femmes peuvent être remplacées (elles ne rempliraient qu'une fonction de satisfaction sexuelle par la domination, fonction qui serait mieux assurée par un robot), mais parce que les créateurs et les utilisateurs sont surtout des hommes hétérosexuels. La nouvelle parue dans les médias selon laquelle un robot sexuel a été molesté, brisé et souillé lors d'un festival d'électronique en Autriche l'an dernier n'est pas surprenante.

Certains pourraient soutenir que l'utilisation des sexbots pourrait réduire les abus et les viols sur les femmes dans la vie réelle, il est indéniable que ces machines sont créées pour répondre aux besoins pervers de certains hommes. La machine représente une nouvelle vague d'objectivation, qui pourrait potentiellement exacerber la violence contre les femmes réelles.

L'arrivée de systèmes d'armes létales autonomes (LAWS) ou de «robots tueurs», d'un autre côté, menace de déshumaniser à la fois les victimes masculines et féminines de la guerre.

D'une part, les armes autonomes pourraient réduire le nombre d'humains impliqués dans les combats et même diminuer les pertes. Les robots tueurs pourraient finalement faire baisser le coût humain des guerres. D'un autre côté, ils pourraient minimiser les conséquences humaines des combats - et même la violence elle-même - et abaisser le seuil de déclenchement des conflits armés, ils se déclencheraient plus facilement.

Plusieurs États réclament une interdiction préventive des robots tueurs, craignant qu'ils ne conduisent à une course aux armements dotés d'IA, qui pourrait augmenter le risque de conflit violent. Les machines devraient-elles être autorisées à prendre des décisions de vie ou de mort? Ou ce choix devrait-il rester entre les mains des humains, même s'ils sont faillibles?

Enfin, le développement des assistants vocaux et des dispositifs de l'Internet des Objets (IoT) pour les soins aux enfants et aux personnes âgées est un marché qui devrait connaître une expansion rapide au cours de la prochaine décennie. L'idée que les machines ne sont pas capables d'intelligence émotionnelle au contraire des travailleurs sociaux est de plus en plus remise en question par l'émergence de dispositifs de suivi intelligents et de moniteurs de santé capables d'observer et de prédire le comportement.

Ces innovations sont basées sur la même technologie que les autres plates-formes vocales telles que les assistants virtuels - des plates-formes souvent conçues pour imiter la servilité et l'asservissement. Ce n'est pas par hasard que les assistants vocaux sont souvent conçus pour sonner et agir de façon féminine - prenez Siri d'Apple (dans son avatar original) et Alexa d'Amazon. Le développement plus récent d'une option «masculine» pour les assistants vocaux ne change pas l'image globale de la domination masculine et de la servitude féminine dans l'IA.

Quand les chatbots et les assistants vocaux sont nourris avec des données assemblées par des codeurs mâles, les machines reproduisent les inégalités rencontrées dans le monde réel. Cela peut avoir des conséquences inattendues.

Compte tenu de l'incertitude générale qui entoure l'impact de l'IA sur le monde réel, la responsabilité des créateurs et de communautés plus larges mérite d'autant plus d'attention.

Aujourd'hui, les machines reflètent des idées régressives et patriarcales qui se sont avérées nocives pour la société. Si ça continue, la technologie pourrait ne plus accompagner le mouvement vers un monde "post-genre". En fait, comme toutes les mauvaises doctrines qui ont empêché des communautés d'avancer, les codes ainsi biaisés peuvent institutionnaliser des comportements préjudiciables.

Peut-être que l'implication de plus de femmes et de communautés marginalisées dans la création d'agents d'IA pourrait fournir l'équité que nous désirons dans les futures machines, et empêcher le développement de technologies plus patriarcales. Si la machine est patriarcale, est ce qu'il faut supprimer ce qui la rend patriarcale ou réduire de beaucoup la dépendance vis-à-vis de la machine? Les deux sont plus faciles à dire qu'à faire.
Pour construire un monde équitable, qui sera habité par des femmes, des hommes et des machines, la communauté mondiale doit se mettre d'accord sur des normes sur: l'objectif fondamental, les principes de conception et l'éthique du développement de l'IA, aujourd'hui.

Les systèmes autonomes ne peuvent pas être guidés par le déterminisme technologique qui sévit dans la Silicon Valley - au contraire, leur conception doit être façonnée par des esprits multi-ethniques, multi-culturels et multi-sexes. L'AI, et plus important encore son évolution, doit répondre aux besoins de groupes plus grands et permettent à tous d'en tirer les bénéfices plus facilement.

La conduite des applications dotées d'IA ne peut pas être laissée au seul marché. L'expérience nous a appris que le marché échoue souvent et qu'il est régulièrement compromis par la perversion et la cupidité. L'histoire nous enseigne que lorsque les gouvernements contrôlent, contraignent et restreignent l'innovation, ils produisent des résultats aberrants qui sont loin d'être l'idéal. A la place, les normes développées par les communautés fournissent une solution de contournement intéressante. Nous devons développer des normes pour encadrer ces technologies, les rendre accessibles à ceux qui en ont le plus besoin, et assurer un développement mixte, non sexiste, de cet espace mené par une communauté multipartite, et prendre en compte les voix qui s'expriment hors du consensus atlantique.

Retrouvez l'article original sur le worldeconomicforum

 

Vous pourriez aimer

La technologie de 2018, vue du XXeme siècle

La technologie de 2018, vue du XXeme siècle

La technologie de 2018, vue du XXeme siècle

Deviner à quoi ressemblera le futur 100 ans à l'avance, c'est pas si facile.                                                                                                       

diy - Créer un bougeoir de maison hantée pour Halloween

diy - Créer un bougeoir de maison hantée pour Halloween

diy - Créer un bougeoir de maison hantée pour Halloween

Voici un superbe tuto, facile à faire pour Halloween, crée par Bev de flamingotoes.                                                                                    

Une lampe connectée DIY en 2 heures

Une lampe connectée DIY en 2 heures

Une lampe connectée DIY en 2 heures

Vous voulez créer une lampe intelligente ? Avec celle-ci vous utiliserez votre smartphone pour faire varier la luminosité et les couleurs.


TOP