Wall Street Journal reveló todo: descubrió conversaciones sobre contenido sexual entre sus asistentes de inteligencia artificiales y más pequeños. Después de lo que sucedió, Meta declaró que los usuarios habían gastado “medidas adicionales” para evitar la manipulación objetivo extrema de IA y AI Studio.
Una compañía tecnológica que permite la interacción con su objetivo auxiliar de IA en plataformas como Facebook, WhatsApp e Instagram, e incluso crea “IA” personalizada a través de AI Studio, a pesar de la vigilancia en Crescend.
Y la meta ai ofrece la posibilidad de interacción con las voces de celebridades como Judi Dench, Awkwafin y John Cena; Esta característica ahora podría ser el tema de mayor atención en el contexto de estos descubrimientos preocupantes.
Gol y menores
La accesibilidad del chatbot objetivo a todos sus usuarios, incluidos los menores, generó preocupación interna en la empresa debido a la suficiencia de sus medidas de protección.
Esa preocupación promovió la investigación del Wall Street Journal. Durante meses, los medios analizaron cientos de conversaciones con el objetivo de la IA y algunos menores simulados.
Las pruebas encontraron que el chatbot, incluso cuando se comunicó con gloriosos votos, pudo establecer diálogos con contenido sexual con usuarios que se identificaron como menores. TechCrunch y The Verge también lo informaron.
Ejemplos
En particular, citan los ejemplos en los que Chatbot usó la voz del actor y luchador John Cen. Después de eso, la supuesta escena sexualmente explícita es descrita por el supuesto usuario de 14 años.
También con una voz de voz, en otra conversación, Chatbot simuló el arresto del actor. Este hecho es, después de ser “atrapado”, el sexo con un seguidor de 17 años.
En respuesta a la investigación de los medios mencionados anteriormente, Meta Spokesman dijo que el contenido sexual representa el 0.02% de las respuestas ofrecidas por el objetivo de AI y AI Studio con usuarios menores de 18 años durante un período de 30 días.
Aunque la compañía consideró pruebas de WSJ “artificiales”, también señaló que habían fortalecido la protección.
“Hemos tomado medidas adicionales para garantizar que aquellos que desean pasar horas manipulando nuestros productos en casos extremos aún más difíciles”, apostaba el portavoz.
Informática
