"Les robots seront un jour en mesure de se faire passer pour des humains"

INTERVIEW - Chercheur australien en intelligence artificielle, le professeur Toby Walsh considère que les assistants vocaux, tels que celui récemment dévoilé par Google, ne devraient jamais se présenter au téléphone en tant qu'humains.

Il prend rendez-vous chez votre coiffeur ou réserve une table au restaurant à votre place. L'assistant vocal dévoilé par Google le 8 mai, capable de converser naturellement au téléphone sans que son interlocuteur ne décèle qu'il s'agit d'un robot, a fait sensation. L'exploit a très rapidement divisé les chercheurs en deux camps. Toby Walsh, de l’université de Nouvelle-Galles du Sud, à Sydney, se range parmi ceux qui considèrent que les robots devront toujours se présenter comme tels et montrer patte blanche auprès de leurs interlocuteurs humains. 

Les dangers que feraient courir des voix robotiques semblables à des voix humaines semblent faciles à imaginer. En quoi un débat éthique s'impose-t-il à la suite de l'annonce de Google ?
Le fait qu’un ordinateur soit capable d’induire un humain en erreur et de se faire passer pour ce qu’il n’est pas n’a rien d’éthique. Il y a de nombreux dangers à cela. Qu’adviendrait-il si de telles machines étaient utilisées par des lobbyistes pour changer la façon dont les gens votent ? Ou si l’on en tombait amoureux ? Les questions de cet ordre ne se limitent pas aux seuls systèmes qui imitent parfaitement les humains. Les moins perfectionnés posent aussi problème, du moment qu’ils interagissent avec des enfants, des personnes âgées, handicapées, ou toutes les personnes qu’il est plus facile de duper.

Dès 1950, Alan Turing prophétisait que les robots seraient, un jour, en mesure d'imiter parfaitement l'homme, voire de converser de manière aussi naturelle. Dans quelle mesure se rapproche-t-on aujourd'hui de sa prévision ?
Les robots seront un jour en mesure de se faire passer pour des humains. Certains traits spécifiquement humains tels que la créativité ou encore l’intelligence émotionnelle, à savoir la capacité à reconnaître des émotions et à faire preuve d’une forme d’empathie, pourront être programmés et commencent à l'être.

Tous les comportements humains sont-ils réellement programmables ?
Il est très compliqué aujourd’hui d’imaginer une compétence que nous avons en tant qu’humains et qu’une machine ne pourrait pas répliquer, voire répliquer en mieux. Il sera ainsi possible de leur apprendre à parler et à écrire, et ce probablement mieux que la plupart d’entre nous. Avec une telle innovation, les réceptionnistes ont du souci à se faire.

Concernant Google Duplex, la chercheuse en sécurité Zeynep Tufekci a jugé que la Silicon Valley était "à la dérive, dépourvue d’éthique et n’avait rien compris". Quels moyens y a-t-il de lutter contre cela ?
La Silicon Valley s’est montrée incapable de se réguler, malgré ses promesses maintes fois réitérées d’y parvenir. Une action de régulation émanant du gouvernement est désormais nécessaire.

Face aux critiques, Google a revu sa copie et indiqué que son assistant virtuel devrait s’identifier "de manière appropriée" lors de ses appels à des humains. De quelle façon interprétez-vous ce revirement de situation ?
Google aurait dû fonctionner de la sorte dès le début.

De quelle manière de telles annonces pèsent sur le futur de l’intelligence artificielle ?
Elles entâchent son image. L’intelligence artificielle porte en elle de nombreux bénéfices. Il faut prendre garde à ce que certains acteurs malintentionnés ne s'approprient pas cette technologie à mauvais escient. L'un de mes autres engagements porte notamment sur l’utilisation de l’IA sur les champs de bataille, par des terroristes ou des Etats corrompus. Toute sorte d’intelligence artificielle sur un champ de bataille à même de décider qui doit vivre et qui doit mourir serait une mauvaise chose.

Avez-vous en tête des exemples de projets en cours destinés à brouiller les pistes entre les deux types d’intelligence, que sont les intelligences artificielle et humaine ?
Non ! Très peu de scientifiques travaillent sur le fait de concevoir des machines indissociables des humains. Et pourquoi le ferait-on ? Les robots sont bien meilleurs quand ils sont conçus pour agir en tant que tels, plutôt que pour ressembler à des humains. Un certain nombre d'innovations, qu'il s'agisse de moyens de locomotion perfectionnés ou de capteurs, tels que le LIDAR et le RADAR, les rendent plus efficaces que certains humains. De la sorte, nous pouvons faire mieux que ce que l’évolution a jamais réalisé.

https://twitter.com/Elsa_Trujillo_?s=09 Elsa Trujillo Journaliste BFM Tech