En remplaçant un 0 par un 1, une IA nous fait frôler l'abisme

Le grand astrophysicien Stephen Hawking disait que l’IA serait la pire ou la meilleure chose arrivée à l’humanité.

Mais que se passerait-il si c'était les deux à la fois ?

Sean Ekins, professeur de pharmacologie et CEO de Collaborations Pharmaceuticals, Inc. utilise l’intelligence artificielle pour créer de nouvelles molécules permettant de soigner des maladies.

Le coup d’accélérateur que cela apporte pour concevoir de nouveaux médicaments offre des perspectives extraordinaires à la médecine.

Un documentaire de tout juste sorti [réf. dans les commentaires] raconte comment il vient à l’esprit de Ekins de réaliser une petite expérience, alors qu’il se voit sollicité par le Spiez Laboratory pour donner une conférence sur les utilisations malveillantes de l’IA :

Demander à son algorithme qu’il fasse le contraire et conçoive les molécules les plus létales possibles pour les humains. Pour cela, il modifie une seule variable dans son modèle, en remplaçant un 1 par un 0.

Son programme tourne tout seul et le lendemain matin, il retrouve sur son écran la recette de 40 000 molécules ultra-toxiques (infiniment plus que le gaz sarin, dont des quantités infimes sont déjà capables de tuer à très grande échelle).

Leur simple création impliquerait une menace existentielle pour notre espèce.

Ekins est alors pris d'un vertige en réalisant soudainement qu’il a ouvert la boîte de Pandore et il met immédiatement fin à son expérience:

« Ce qui me terrorise le plus est le fait que n’importe qui pourrait faire la même chose. Il suffit d’appuyer sur un interrupteur. »

Il s’interroge : « Comment peut-on contrôle une technologie avant qu’elle soit utilisée pour quelque chose d’aussi destructeur ? »

Imaginons qu’un seul scientifique (sur des dizaines de milliers au monde) poursuive cette expérience – que ce soit par curiosité intellectuelle, par malveillance, par intérêt, etc. – et que cela mène à l’extinction de l’humanité :

Considérez-vous que le potentiel de l’IA dans le domaine pharma aura été si bénéfique à l’humain ? Si l’IA permet à la fois le meilleur ET le pire, et le pire signifie la fin de notre espèce, le meilleur aura peu de valeur.

Plus d'informations sur Linkedin.