"No cometamos con la IA los mismos errores que cometimos con las RRSS"

En una reflexión muy alineada con el Manifiesto OFF, explican Nathan Sanders y Bruce Schneier cómo la evolución desregulada de las RRSS en la última década ofrece lecciones que directamente trasladables a las compañías y tecnologías de IA.

Se centran en los 5 temas siguientes:

1. PUBLICIDAD. El grado de manipulación que la IA podría permitir a través de anuncios a medida personalizados podría ser muy dañino, especialmente si se introduce publicidad ultrafocalizados en intercambios con chatbots.

2. VIGILANCIA. "Es difícil exagerar hasta la magnitud del espionaje al que las RRSS nos someten". La misma presión por captar nuestros datos se va a ejercer sobre nuestras interacciones con IAs conversacionales.

3. VIRALIDAD. El afán por llegar a la máxima audiencia en redes ha privilegiado contenidos agresivos, basados en el odio y favorecido la desinformación. La IA tiene el potencial de amplificar este problema, al automatizar la producción de contenidos potencialmente virales.

4. ENCERRAMIENTO. Las RRSS hacen todo lo posible para que el usuario no las pueda abandonar fácilmente, con un coste elevado para pasar de una a otra. Las plataformas de IA también nos hacen correr el mismo riesgo de dificultar el hecho de pasar de una a otra porque el conocimiento que adquieran de cada uno de nosotros hará que funcionen mejor.

5. MONOPOLIOS. Las plataformas sociales empezaron con grandes productos; luego se centraron en el beneficio de sus clientes B2B, y eventualmente en sus propios intereses en detrimento de los dos primeros —protegidos por efectos de red que dificultan la entrada de otros actores.

La misma lógica amenaza aplicarse a las plataformas de IA cuya posición dominante no crea incentivos para que tengan que prestar atención a su impacto social.

El único punto con el que estoy en desacuerdo es que dicen que la diferencia entre RRSS e IA es que para regular la segunda no es demasiado tarde...

Por muy negativo que haya sido ya el impacto psicológico, social y político de las redes, tampoco es demasiado tarde para regularlas mucho más!

¿Te ha parecido interesante esta reflexión?

⮕ Reacciona a este artículo en LinkedIn.

⮕ Suscríbete a OFF, la newsletter para retomar el control (una vez al mes)