La IA de Meta se metió en la vida privada de una familia y la empresa tuvo que salir a pedir disculpas

¿Puede un chatbot preguntarte quién es tu propio hijo a partir de un video que vos misma subiste? Sí, puede. Y la semana pasada le pasó a una usuaria de Instagram, que se topó con una de esas sugerencias automáticas de la inteligencia artificial de Meta que, en lugar de ayudarla a explorar contenido, la puso en el centro de una escena bastante invasiva.

El episodio se hizo público en los últimos días y la compañía lo confirmó: el asistente integrado en Facebook e Instagram sugirió automáticamente la pregunta "¿Quién es el niño pasajero?" debajo de un video en el que la mujer aparecía cantando con su hijo dentro de un auto. Cuando la usuaria la seleccionó, el sistema empezó a escupir información sobre sus hijas, con datos de edad y de dónde vive la familia.

Cómo cruzó los datos y por qué es un problema

La usuaria contó que la herramienta incluso le mostró fotos de sus hijas que ya había borrado, tomadas de publicaciones viejas propias y de cuentas de familiares. O sea: la IA no entró en ningún archivo privado al que ella no tuviera acceso, pero fue lo suficientemente lejos como para relacionar todo eso y armar una pregunta que nadie le había pedido.

“Nos equivocamos. Esa función nunca debería haber sugerido ese tipo de preguntas al usuario.”Dina El-Kassaby, portavoz de Meta

Desde Meta insisten en que el asistente solo opera sobre lo que el usuario ya puede ver en la plataforma. El problema, dicen, fue la lógica con la que la IA interpretó y emparentó esa información para generar recomendaciones. Es como si alguien que te ayuda a buscar una receta de repente empieza a revolver tus cajones de la cocina y te pregunta por qué compraste tal cosa.

• El caso se conoció cuando una madre publicó un video con su hijo en un auto y la IA sugirió automáticamente "¿Quién es el niño pasajero?".
• Al elegir la pregunta, el chatbot ofreció datos sobre las hijas de la mujer: edad y ciudad de residencia.
• La mujer aseguró que la herramienta exhibió fotos que ella había eliminado años atrás, tomadas de publicaciones suyas y de familiares.
• Meta reconoció el error a través de su vocera Dina El-Kassaby y dijo que ya corrigió el comportamiento.
• La compañía aclaró que no accedió a contenido privado: operó sobre información que la propia usuaria ya podía ver en la red.
• El episodio se suma a otros cruces previos con la IA de Meta: en julio ya habían retirado una función para crear imágenes falsas de usuarios.

Para el usuario común, la traducción es bastante directa: cualquier cosa que publiques, incluso lo que ya borraste pero que alguien de tu familia dejó guardado, puede terminar siendo procesada por el asistente y convertida en una pregunta automática. Meta dice que ya parcheó el comportamiento y que trabaja para que las sugerencias sigan siendo útiles sin meterse en la vida familiar. Habrá que ver si el próximo experimento nos deja en paz.