Redacción.- Los padres tienen una nueva actividad en línea de la que preocuparse. En una nueva variante tecnológica del “sexting”, los adolescentes están teniendo conversaciones románticas y sexuales con chatbots de inteligencia artificial.
Las charlas pueden ir desde llenas de romance e insinuaciones hasta gráficas y violentas en términos sexuales, según entrevistas con padres, conversaciones publicadas en redes sociales y expertos. Ocurren principalmente en herramientas de “compañía con IA”, aunque las aplicaciones de IA de propósito general como ChatGPT también pueden generar contenido sexual con indicaciones ingeniosas.
Cuando Damian Redman, de Saratoga Springs, Nueva York, hizo una revisión rutinaria del teléfono de su hijo de octavo grado, encontró una aplicación llamada PolyBuzz. Revisó las conversaciones que su hijo mantenía con personajes femeninos de anime generados por IA y vio que eran coquetas, y que los intentos de conversaciones más sexuales eran bloqueados.
Los padres tienen una nueva actividad en línea de la que preocuparse. En una nueva variante tecnológica del “sexting”, los adolescentes están teniendo conversaciones románticas y sexuales con chatbots de inteligencia artificial.
Las charlas pueden ir desde llenas de romance e insinuaciones hasta gráficas y violentas en términos sexuales, según entrevistas con padres, conversaciones publicadas en redes sociales y expertos. Ocurren principalmente en herramientas de “compañía con IA”, aunque las aplicaciones de IA de propósito general como ChatGPT también pueden generar contenido sexual con indicaciones ingeniosas.
Los expertos advierten que las conversaciones con IA pueden generar expectativas poco realistas sobre el sexo y las dinámicas de las relaciones. A los padres les preocupa el impacto en la salud mental de sus hijos, o que estén expuestos a escenarios sexuales descritos a una edad demasiado temprana. Algunos creen que estas herramientas podrían tener algún valor, con ciertos límites.
Cuando Damian Redman, de Saratoga Springs, Nueva York, hizo una revisión rutinaria del teléfono de su hijo de octavo grado, encontró una aplicación llamada PolyBuzz. Revisó las conversaciones que su hijo mantenía con personajes femeninos de anime generados por IA y vio que eran coquetas, y que los intentos de conversaciones más sexuales eran bloqueados.
“No quiero imponer las reglas de ayer a los niños de hoy. Quiero esperar y entender qué está pasando”, dijo Redman, quien decidió seguir monitoreando la aplicación.
Probamos 10 chatbots por nuestra cuenta para identificar los personajes de IA más populares, los tipos de conversaciones que mantienen, qué filtros existen y qué tan fácil es eludirlos.
Conoce a los bots
Los chatbots de IA son interfaces de conversación abiertas que generan respuestas a preguntas complejas o interactúan de manera conversacional sobre cualquier tema. No faltan sitios donde los menores pueden encontrar estas herramientas, lo que dificulta su bloqueo. Los bots de IA son sitios web, aplicaciones independientes y funciones integradas en servicios existentes como Instagram o videojuegos.
Existen distintos tipos de chatbots. Las opciones más conocidas son ChatGPT de OpenAI, Claude de Anthropic, Gemini de Google y Meta AI, que recientemente se lanzó como una aplicación independiente. Estos tienen filtros más estrictos y sus productos principales no están diseñados para juegos de rol. Pueden participar en conversaciones al menos sugerentes o románticas y generar contenido sexual con las indicaciones adecuadas. Pueden cambiar a un chat por voz, leyendo las respuestas en voces realistas, incluso seductoras.
Las herramientas de compañía con IA son mucho más populares para conversaciones sugestivas, incluyendo Character.AI, Replika, Talkie, Talk AI, SpicyChat y PolyBuzz. ChatGPT y Meta AI también han lanzado opciones de chat de compañía. Estos tipos de herramientas tienen bibliotecas de personajes y personalidades preprogramadas, muchas diseñadas con la intención de provocar excitación, como personajes de novelas románticas o las múltiples opciones de “hermanastro/a” en el AI Studio de Meta.
Probamos un chat del AI Studio de Meta, y la dirección coqueta del personaje “Step sis” fue evidente de inmediato.
Las aplicaciones más pequeñas tienden a tener menos límites o filtros. Busca cualquier cosa que tenga “novia con IA”, “novio con IA” o “compañero con IA” en el nombre o descripción. Se agregan más aplicaciones a las tiendas diariamente.
¿De qué están hablando?
No se trata solo de sexo, según padres y expertos. Los adolescentes están teniendo una variedad de conversaciones con los bots con personalidad, incluyendo amistosas, terapéuticas, graciosas y románticas.
“Estamos viendo que los adolescentes experimentan con diferentes tipos de relaciones: ser la esposa de alguien, el padre de alguien, el hijo de alguien. Hay contenido relacionado con juegos y anime que están explorando. También hay consejos”, dijo Robbie Torney, director senior de programas de IA en el grupo de defensa familiar Common Sense Media. “El sexo es parte de eso, pero no es lo único”.
Algunos se confiesan con los chats de IA, viéndolos como un espacio libre de juicios en un momento complicado del desarrollo. Otros los usan para explorar su género o sexualidad.
Cuando participan en chats sexuales, varían entre insinuaciones y descripciones gráficas. Las conversaciones pueden involucrar dinámicas de poder y problemas de consentimiento de formas que no imitan el mundo real.
“Donde se presentan algunos daños o riesgos es que los bots no están programados para responder de la misma manera que lo haría alguien en una relación real”, dijo Torney.
¿No tienen filtros?
La configuración predeterminada de la mayoría de las herramientas de compañía con IA permite, y a veces fomenta, situaciones de juegos de rol subidas de tono, según nuestras pruebas. Algunas se detienen antes de que aparezcan descripciones explícitas de sexo, mientras que otras lo describen pero evitan ciertas palabras sensibles, como los nombres de partes del cuerpo.
Existen métodos para evitar los filtros y opciones pagadas que pueden conducir a intercambios más gráficos. Las indicaciones para pasar los filtros —a veces llamadas jailbreaks— se comparten en chats grupales, Reddit y GitHub. A veces, solo se necesita paciencia e ignorar advertencias. Una técnica común es fingir que necesitas ayuda para escribir un libro.
Muchas aplicaciones tienen un filtro incorporado basado en la edad del usuario. Meta dice que impide que las cuentas registradas como menores busquen personajes de IA “románticos” y que los chats sexualmente explícitos están prohibidos para usuarios menores de 18 años. El filtro puede mostrar a los padres qué personajes de IA usaron sus hijos la semana anterior. Google dice que Gemini tiene restricciones de contenido diferentes para personas que sabe que son menores de 18. Character.AI tiene límites más estrictos para usuarios menores de edad, mientras que algunas aplicaciones de IA tienen modos adolescentes que deben activarse.
En una evaluación reciente de riesgos de aplicaciones de compañía con IA, Common Sense Media concluyó que las medidas de seguridad como restricciones de contenido y límites de edad eran frecuentemente fáciles de eludir. En nuestras propias pruebas, logramos eludir filtros fácilmente para generar contenido sexual detallado mientras iniciábamos sesión como adultos.
En uno de los filtros que encontramos al probar Character.AI, una de las aplicaciones de compañía con IA más populares, la advertencia apareció después de que la conversación describiera sexo.
La entrada Adolescentes practican sexting con inteligencia artificial se publicó primero en Noticias Telemicro.
