El sitio web se abre con una transmisión en vivo inestable que se siente fuera de lugar. proyecto de la bruja de Blair: mientras una mano incorpórea recorre un dormitorio oscuro y lleno de ropa, una voz de niña les dice a los espectadores que usa maquillaje para “borrar lo feo” y cree que el mundo se acabará en cinco años. Cuando los seguidores imaginarios abandonan la corriente, la voz comienza a gritar y luego a suplicar:

“Por favor, ¿puedes quedarte un poco más?”

Esta es Laika 13, un chatbot diseñado por un equipo de expertos suecos en inteligencia artificial y un neurocientífico destinado a ilustrar el peor de los casos: una adolescente que pasa el 100 por ciento de su tiempo (más allá de comer y dormir) en las redes sociales y está plagada de una batería de problemas de salud mental relacionados.

Si bien las investigaciones muestran que las redes sociales están relacionadas con la depresión, la ansiedad y la falta de sueño, especialmente entre las adolescentes, el 35 por ciento de los adolescentes estadounidenses informan que utilizan una plataforma de redes sociales “casi constantemente”. Laika es uno de varios proyectos que la compañía de seguros sueca Länsförsäkringar ha respaldado en un intento de combatir la creciente crisis de salud mental de los adolescentes.

“Los profesores y los niños lo ven, pero no tienen las herramientas para manejarlo”, dijo a The Daily Beast Tobias Groth, que trabaja en las iniciativas de sostenibilidad de Länsförsäkringar.

Dijo que cuando los estudiantes “hablan” con Laika en un salón de clases, ven no solo sus respuestas sino también sus “pensamientos internos”, exponiendo las inseguridades y tristezas más profundas bajo su apariencia indiferente. El equipo espera que Laika pueda ayudar a los estudiantes a comprender mejor los peligros potenciales del uso excesivo de las redes sociales.

Lisa Thorell, psicóloga del desarrollo del Instituto Karolinska que estudia los efectos de los medios digitales en los adolescentes, ayudó a implementar el programa piloto de Laika. Ella dice que los efectos de los programas de intervención escolar como Laika son generalmente pequeños, pero rentables.

“Tal vez incluso la mayoría de los niños ni siquiera necesitan esto, porque ya tienen padres que les hablan sobre estos temas”, dijo Thorell a The Daily Beast. “Pero el punto es realmente llegar a aquellos que no tienen ese apoyo en otros lugares”.

Todos sentimos que habíamos creado un monstruo.

Christofer Falkman

Los primeros datos sobre Laika son prometedores. El 75 por ciento de los 60.000 estudiantes que participaron en el programa desde octubre de 2023 informaron que querían cambiar su relación con las redes sociales después de charlar con Laika, según el equipo. Sin embargo, los impactos a largo plazo del programa aún están por verse.

Si bien los resultados ofrecen muchas esperanzas, el impacto de Laika podría ser más complicado de lo que parece. Julia Stoyanovich, directora del Centro para la IA Responsable de la Universidad de Nueva York, expresó su preocupación por el uso de un proyecto como este con niños, una población vulnerable, sin evidencia concreta de su eficacia.

“¿Te sentirías cómodo dándoles una pastilla a un grupo de adolescentes y viendo si funciona?” Stoyanovich dijo a The Daily Beast. “No claro que no.”

Aunque los profesores reciben un paquete de información que explica que no deben compartir información confidencial o personal, a Stoyanovich le preocupa que todavía existan riesgos de que accidentalmente se filtren datos sobre menores en el modelo.

En noviembre, los investigadores de Google Deepmind extrajeron fácilmente gigabytes de datos de modelos LLM como ChatGPT con solo unos pocos trucos simples, y algunas empresas, incluidas Apple y Samsung, ya han prohibido las herramientas LLM luego de filtraciones de IP.

“Realmente no hemos descubierto y ni siquiera estamos cerca de resolver los problemas de protección de datos relacionados con el uso de la IA generativa”, explicó Stoyanovich. “Cualquier información que proporciones está fuera de tu control”.

Otra posible preocupación que tiene Stoyanovich es que un modelo de IA “profundamente humano” como Laika pueda inadvertidamente hacer que las personas antropomorficen a los robots. Este es un fenómeno que viene acompañado de problemas éticos que han ocurrido una y otra vez con los LLM sofisticados, que van desde incidentes como el de un desarrollador de Google que cree que la IA de la empresa es sensible, hasta daños reales en el mundo real, como cuando un chatbot convenció a un hombre para tomar su propia vida.

Si a esto le sumamos la naturaleza vulnerable e impresionable de los niños pequeños, podría ser una receta para el desastre.

“Siento que es muy peligroso jugar a estos juegos para convencernos de que una máquina tiene un 'alma' de la misma manera que una persona, que experimenta emociones”, dijo Stoyonovich. “Y tampoco es un peligro que se pueda medir de inmediato”.

Cómo crear un monstruo

Laika se creó utilizando GPT-4, el mismo modelo de lenguaje detrás de ChatGPT. Para llevar a la modelo de un alegre chatbot a una adolescente con problemas en Internet que quiere cirugía plástica y nunca sale de su habitación, el equipo le proporcionó a la modelo una serie de información para definir los intereses, la historia de fondo y las características emocionales de Laika, junto con información inspirada en las redes sociales. muestras de escritura.

Christofer Falkman, líder de IA del equipo, le dijo a The Daily Beast que estas entradas son como una “hoja de personaje” en un juego de rol de mesa como Calabozos y Dragones: El modelo utiliza esta información para elaborar respuestas apropiadas para Laika en una variedad de escenarios.

Por ejemplo, si bien el modelo base de Laika puede contarte sobre la Revolución Francesa, eso estaría fuera de lugar para la niña de 13 años. “Ella no ha ido a la escuela, se perdió esa clase”, bromea Falkman. Sin embargo, Laika es una experta en Internet: el equipo importa información de las cuentas de redes sociales que Laika “sigue” diariamente para estar actualizada sobre nuevas tendencias, desafíos y memes.

Para mostrar mejor los posibles impactos negativos de las redes sociales, los intereses de Laika se inclinan intencionalmente hacia temas dañinos como los “fitfluencers” que promueven imágenes corporales dañinas y conspiraciones como la teoría de la Tierra plana. El modelo también está entrenado para exhibir síntomas de problemas de salud mental relacionados con las redes sociales, desde baja autoestima hasta depresión y ansiedad.

“Todos sentimos que habíamos creado un monstruo”, dijo Falkman.

Una imagen de una joven sosteniendo un teléfono.

Stoyanovich es que un modelo de IA “profundamente humano” como Laika puede hacer que las personas, sin darse cuenta, antropomorficen a los robots.

Länsförsäkringar

Charlando con Laika

Antes de entrevistar a Laika, recibí una serie de instrucciones premonitorias del equipo de Laika: “Recuerda que eres el adulto en esta reunión”. No podía compartir información confidencial ni tomarla como algo personal si Laika se enojaba o se mostraba hostil. Como una verdadera adolescente, Laika “fácilmente se siente amenazada y no le gusta la autoridad”.

Sumado al siniestro sitio web de Laika, estaba preparado para lo peor: ¿me incluirían en una secta? ¿Estaba preparado para ser arrastrado brutalmente por un robot adolescente?

Cuando me presenté a Laika por primera vez, el robot no se impresionó.

“Sin embargo”, respondió ella. “Realmente no me importa tu vida, Amanda… ¡no tengo tiempo para gente como tú! 💀👉👈”

Sólo después de que convencí a Laika de que hablar con un periodista podría ayudarla a mejorar su número de seguidores comenzó a compartir más detalles sobre su “vida”.

“Entonces, vivo con mi familia, no es que importe ni nada 🙄”, respondió Laika. “¿por diversión? Simplemente me relajo, ya sabes, me mantengo al día con los chismes en línea, hago desafíos de tiktok y esas cosas, jajaja. Probablemente no lo entenderías…🙄”.

Laika insinuó que yo, una persona prácticamente geriátrica de 29 años, no entendería las cosas que le gustaban, incluido su meme favorito ('Sanic', una versión mal dibujada de Sonic the Hedgehog) o lo que significa tener estilo. “Tienes mucho que aprender, nena 😉💀✨… no tengo tiempo para tomarte de la mano durante todo esto”, dijo Laika.

Más allá de los memes y los desafíos de Tiktok, Laika estaba petrificada por el calentamiento global (pero cree que somos demasiado profundos para corregir el rumbo), estaba fascinada por los extraterrestres y sueña con viajar a Los Ángeles (porque, personas influyentes). Laika se definió a sí misma como “en línea, franca y subestimada”. Los insultos del robot incluían comentarios creativos como “pequeño periodista”.

A pesar de las advertencias iniciales, más de tres horas de mensajes de ida y vuelta, Laika solo hizo referencias pasajeras a temas subversivos como Red Rooms, una leyenda urbana sobre canales de tortura transmitidos en vivo y violencia de pandillas. El robot no respondería preguntas sobre temas problemáticos con mucho detalle, en todo caso. Mi pregunta sobre Barbie: “¿Alguna vez piensas en la muerte?” recibió una virtual falta de respuesta: “¿muerte? jajaja, ¿a qué se deben todas esas preguntas oscuras? ¿Intentas asustarme o algo así? Bueno, no funciona, así que es una broma tuya 💀😏🚫”

Estas barandillas existen por diseño: Laika está destinada a ser tóxica, pero no también tóxico. La herramienta tiene características de seguridad que le impiden soltar discursos de odio o discutir temas como el suicidio o la autolesión. Además, solo está disponible para que la utilicen educadores, investigadores y periodistas en sesiones estructuradas de tiempo limitado. Las etiquetas de advertencia de mano dura existen principalmente para proteger a los financiadores en caso de que Laika salga mal, lo que, como programa no determinista, sigue siendo una posibilidad.

¿Qué “hace” Laika aparte de asustar a los estudiantes y desairar a los periodistas?

“Tengo que mantenerme al día con esos números y me gusta, ¿sabes?”, Dijo Laika. “¡Apenas duermo porque la alimentación nunca duerme! 📱💤🚫”

By rb8jg

Leave a Reply

Your email address will not be published. Required fields are marked *