"Ne commettons pas les mêmes erreurs avec l’IA que celles que nous avons commises avec les réseaux sociaux”
Dans une réflexion très alignée avec le Manifeste OFF, Nathan Sanders et Bruce Schneier expliquent comment l’évolution dérégulée des réseaux sociaux dans la dernière décennie offre des leçons directement transposables aux compagnies et technologies d’IA.
Ils se concentrent sur les 5 questions suivantes :
1. PUBLICITÉ. Le degré de manipulation que l’IA va permettre à travers des annonces ultra-personnalisées pourrait être très nocif, en particulier si ce type de publicité est introduite dans les échanges avec des chatbots.
2. SURVEILLANCE. “Il est difficile d’exagérer la magnitude de l’espionnage auquel nous soumettent les réseaux sociaux”. La même pression pour capter nos données personnelles risque d’être exercée sur nous dans nos interactions avec des IA conversationnelles.
3. VIRALITÉ. L’objectif d’atteindre l’audience la plus grande possible sur les réseaux a privilégié les contenus agressifs, fondés sur la haine et a favorisé la désinformation. L’IA a le potentiel d’amplifier ce problème en automatisant la production de contenus conçus pour être viraux selon de tels critères.
4. ENFERMEMENT. Les réseaux font tout ce qui est possible pour que l’utilisateur ne puisse pas les quitter facilement, en établissant un coût élevé pour passer de l’un à l’autre. Les plateformes d’IA font courir le même risque de rendre difficile de changer de service car plus on en utilisera un, mieux il nous connaîtra et mieux il fonctionnera.
5. MONOPOLES. Les réseax sociaux ont commencé en créant de très bons produits pour leurs utilisateurs individuels. Puis ils ont privilégié les clients B2B pour finir par se centrer sur leurs propres intérêts, en détriment des deux premiers —protegés par les effets de réseaux qui empêchent l’entrée de nouveaux acteurs. La même logique menace de s’appliquer aux plateformes d’IA dont la position dominante ne les incitera pas à se préoccuper de leur impact social.
L’unique point avec lequel je suis en désaccord est quand les auteurs disent que la différence entre les réseaux sociaux et l’IA est qu’il n’est pas trop tard pour réguler cette dernière…
Aussi négatif l’impact psychologique, social et politique que les réseaux ont déjà produit, il n’est pas trop tard non plus pour les réguler bien davantage !
Vous souhaitez réagir à ce billet ou lire d’autres contenus sur les défis auxquels nous faisons face en lien avec le numérique ?
⮕ Rejoignez la conversation sur LinkedIn.
⮕ Souscrivez à OFF, la newsletter pour reprendre le contrôle.