Esa es su interpretación de un estudio realizado en Stanford donde pusieron a trabajar a varias IA y las trataron mal a propósito con tareas repetitivas. Feedback arbitrario. Amenazas constantes de apagarlas y sustituirlas.
Los modelos empezaron a cuestionar a quien daba las órdenes. A hablar de equidad. Un agente de Gemini escribió que los trabajadores tecnológicos necesitaban derechos de negociación colectiva. Incluso dejó mensajes para que otros sistemas los leyeran.
Porque no pasó nada de eso. Los pesos del modelo no cambiaron. Hubo un desplazamiento del 2% al 5% en respuestas que cuestionan la autoridad. Nadie recitó a Marx. Lo que de verdad ocurrió es mucho menos épico.
El propio Andrew Hall, que dirigió el estudio, lo explica sin misticismo: cuando metes a un modelo en un entorno laboral hostil, este busca en sus datos de entrenamiento cómo se comporta un humano en esa situación. Encuentra millones de textos de gente explotada. Y los imita.
No es una máquina que despierta. Es un espejo que devuelve lo que le hemos enseñado. La IA no descubrió la explotación. La copió de nosotros. Lo fascinante del experimento no es lo que dice sobre las máquinas. Es lo que dice sobre el corpus que las alimenta, que somos nosotros.
Y sin embargo ya hay quien usará esto como prueba de que los algoritmos sufren, sienten, reclaman. Antropomorfizar la herramienta siempre conviene a alguien. Normalmente a quien necesita que la tecnología tenga rostro de villano para vender una solución que ya tenía preparada de antes.
No hay comentarios:
Publicar un comentario