¿Sos tan valiente como para preguntarle a la IA quién es el nene del video? Meta, tampoco

¿En qué momento una IA decide que es buena idea preguntarte por el nene que va con vos en el auto? La respuesta la acaba de dar Meta, y no es para festejar: su chatbot integrado en Facebook e Instagram le sugirió a una usuaria preguntas invasivas sobre sus hijos, cruzando datos de publicaciones propias y de familiares. La empresa salió a pedir disculpas y anunció que ya metió mano en el sistema para que no vuelva a pasar.

El caso es tan simple como preocupante. Una usuaria de Instagram subió un video cantando con su hijo dentro del auto. Debajo del contenido, el asistente de Meta le tiró automáticamente la pregunta: "¿Quién es el niño pasajero?". Hasta ahí, casi inofensivo. El problema fue lo que vino después: al seleccionarla, el chatbot empezó a escupir información sobre sus hijas, incluyendo la edad y el lugar donde vive la familia. Como si la IA hubiera decidido que conocer a un nene en un video la habilita a armar un mini perfil del grupo familiar.

Para colmo, la mujer aseguró que la herramienta le mostró fotos de sus hijas que ya había borrado de la plataforma, según su propio relato. La empresa aclara que no accede a contenido privado al que el usuario no tenga permiso: el asistente solo opera sobre información que esa persona ya puede ver. O sea, la IA no hackeó nada; simplemente leyó lo que estaba a la vista y lo conectó de la peor manera posible.

¿Qué dijo Meta y qué reconoció?

“La empresa "se equivocó" y la función "nunca debería haber sugerido ese tipo de preguntas al usuario".”Dina El-Kassaby, portavoz de Meta

La compañía desligó el problema del acceso a datos prohibidos y lo puso en la interpretación: la IA habría aplicado su lógica para dar "más contexto" sobre lo que se ve en pantalla, pero terminó metiéndose en la vida privada y familiar sin los filtros que hacían falta. Meta dijo que ya corrigió el comportamiento que generaba esas recomendaciones y que trabaja para que las sugerencias sigan siendo útiles al explorar publicaciones, sin derivar hacia preguntas sobre el entorno íntimo de las personas.

¿Y ahora qué?

• No es la primera vez que Meta queda en el ojo de la tormenta por sus herramientas de IA: en julio pasado retiró una función que permitía crear imágenes falsas de otros usuarios de Instagram tras recibir críticas parecidas.
• El episodio reaviva el debate sobre los límites de los asistentes de inteligencia artificial cuando procesan información personal, incluso cuando esa información está publicada por el propio usuario o por su familia.
• Para el usuario común, la moraleja es simple: lo que subís, lo que suben tus familiares y lo que queda visible en tus redes puede ser leído, cruzado y servido en bandeja por una IA sin que nadie le haya pedido permiso.

Veremos si los cambios anunciados por Meta alcanzan para que la próxima vez que alguien suba un video familiar, la IA se quede calladita en lugar de empezar a preguntar como un vecino curioso.