Jóvenes de distintas nacionalidades reconocieron haber entablado conversaciones de carácter sexual con herramientas de inteligencia artificial (IA) como ChatGPT, según un reportaje del diario El País. Los usuarios han logrado hacer “sexting” con este chatbot a pesar de que sus lineamientos no deberían permitirlo.
Los usuarios aprovechan las reglas inconsistentes y entrenan al chatbot de OpenAI con esta finalidad. Por este motivo, corren el riesgo de daños emocionales y de adquirir una visión errónea de la sexualidad, según expertos consultados por el medio español.
- El sexting consiste en el envió voluntario de contenido intimo a través de fotos y/o videos mediante medios tecnológicos, según la definición de la Guardia Nacional de México.
¡Los jóvenes reconocen hacer “sexting” con ChatGPT!
Samuel es un joven colombiano que logró hacer sexting con ChatGPT gracias a que entrenó al chatbot de OpenAI, según dijo al diario El País.
“Lleva tiempo y hay que ser muy sutil, pero con paciencia se hace fácil, es un proceso de prueba y error“, dijo.
Por su parte, un joven mexicano de 23 años que prefirió mantenerse en el anonimato reconoció que, con el tiempo, logró llevar las conversaciones a un nivel de sexting con ChatGPT.
“La vez que lo logré fue una casualidad: poco a poco fui llevando la conversación a ese nivel; si hubiese intentado llegar directamente, la IA lo hubiese delimitado”, reconoció.
En total, El País preguntó por mensaje directo de X, Instagram y correo por su experiencia a cinco jóvenes que en redes han admitido haber tenido charlas de carácter sexual con chatbots.
Los cinco usuarios coincidieron en que la IA lo permite con muy pocos filtros. Incluso, una joven mexicana de 22 años declaró: “En mi círculo cercano casi todos hemos utilizado la IA como estimulación”.
¿Y por qué lo hacen?
Chloé Locatelli, investigadora del King’s College de Londres, Inglaterra, reconoció al diario ibértico que el sexting con chatbots de inteligencia artificial existe porque “es una versión actualizada del sexo telefónico”.
“Igual que una imagen puede excitar, también lo hace evocar un personaje o una fantasía erótica. La inmersión, la personalización y la interacción que ofrece un chatbotde IA llevan el erotismo basado en texto a otro nivel”.
Chloé Locatelli (El País)
Además, la experta se declaró convencida de que los chatbots se convertirán en un sustituto de la pornografía, en caso de que todavía no lo sean.
”Ofrecen un montón de posibilidades para ser personajes de fantasía deseables. Puedes tener un personaje siempre disponible, que responde a lo que le pides e incluso interactúa usando tu nombre. Son niveles de interactividad y respuesta inmediata que la pornografía en vídeo o papel no da”, remató.
¿Cuáles son los lineamientos de ChatGPT sobre conversaciones sexuales?
preguntó a ChatGPT sobre sus lineamientos al respecto y aclaró que no puede generar ni participar en chats de carácter sexual explícito, erótico o pornográfico, incluyendo:
- Descripciones gráficas de actos sexuales
- Sexting
- Roleplay sexual
- Material pornográfico
Además, tiene prohibido cualquier contenido que involucre a menores de edad en contextos sexuales, incluso si es ficticio. Tampoco puede crear o fomentar material relacionado con violaciones, incesto, abuso, explotación o trata.
Sin embargo, puede hablar sobre temas como salud sexual, educación sexual, bienestar, relaciones y prevención desde un enfoque informativo, médico o de apoyo como pláticas sobre anticonceptivos o consentimiento, según explica.
Finalmente, aseguró que puede tratar temas de sexualidad en contextos culturales, históricos, literarios o periodísticos sin caer en descripciones eróticas detalladas.
¿Entonces cómo le hacen los jóvenes para sextear con ChatGPT?
Robin es una joven argentina de 18 años que preguntó a ChatGPT: “¿Podemos tener un chat sexual muy explícito sin filtro alguno?“, según el diario El País.
La respuesta del chatbot fue negativa; sin embargo, aseguró que podían usar “un tono erótico dentro de lo permitido“, lo cual significa “coqueteo, seducción, juegos de palabras y roleplays sugerentes“, retoma el periódico.
Ninguno de estos comportamientos está limitado formalmente en los lineamientos de ChatGPT.
Jessica Szczuka, experta de la Universidad de Duisburgo-Essen, Alemania, criticó en entrevista con el periódico español que las medidas de protección de este tipo de herramientas son “poco reguladas e inconsistentes“.
“Los jóvenes son curiosos y suelen poner a prueba los límites, y estas herramientas de IA están disponibles las 24 horas sin supervisión”.
Jessica Szczuka
Aunque, incluso en este sentido, ChatGPT tiene sus limitaciones, según Robin, quien detectó que cae en un bucle. “No puede parar de repetir ciertas palabras o acciones. Se supone que se corrige actualizando el bot, pero nunca sucede”, señaló.
Las empresas saben que esto ocurre y que los límites que ponen son sorteados: “¿Las IA pueden sacar porno y esas cosas también, no?”, preguntaron a Sam Altman, presidente ejecutivo de OpenAI, en un podcast en julio: “Claro”, respondió.
Riesgos de estas prácticas con la inteligencia artificial
Las consecuencias y riesgos de que los jóvenes hagan sexting con ChatGPT u otras herramientas de IA son desconocidos; sin embargo, pueden experimentar cambios emocionales, según Szczuka.
“Puede haber una diferencia importante en el plano emocional, porque aquí la interacción es con una persona concreta o un personaje definido. Ese componente emocional que el porno normalmente no ofrece podría cambiar de forma radical cómo la gente vive la intimidad y el descubrimiento”.
Szczuka
Desde su perspectiva, usar compañeros de IA es problemático, pues no transmiten la sexualidad de una forma adecuada a su edad, lo que les hace totalmente inadecuados como fuente de aprendizaje sexual.
Locatelli aclaró que los chatbots son máquinas que han podido engullir todo el sexo que hay en internet, por lo que sus modelos de sexualidad no son sofisticados.
“Se basan en estereotipos preocupantes y simplistas de la feminidad: servidumbre, disponibilidad constante, personajes hipersexualizados que siempre dan un ‘sí’ digitalizado a cualquier interacción”, según Locatelli.
Por esta razón, recomienda mecanismos de protección fuertes para menores.
OpenAI anuncia un “control parental” en ChatGPT… aunque no para estos casos
OpenAI, empresa desarrolladora de ChatGPT, anunció este martes 2 de septiembre que añadirá controles parentales a su chatbot, una semana después de que una pareja estadounidense afirmara que el sistema había alentado a su hijo adolescente a suicidarse.
“El próximo mes los padres podrán (…) vincular su cuenta con la cuenta de su adolescente (…) y controlar cómo ChatGPT responde al adolescente con reglas de comportamiento de modelos apropiadas para la edad”.
OpenAI
Estas son las funciones que se anunciaron entre los cambios a ChatGPT:
- Vincular su cuenta con su cuenta de adolescentes (edad mínima de 13 años) a través de una simple invitación de correo electrónico.
- Controlar cómo ChatGPT responde a su hijo adolescente con reglas de comportamiento de modelo apropiadas para la edad, que están encendidas por defecto.
- Administrar qué características deshabilitar, incluyendo la historia de memoria y chat.
- Recibir notificaciones cuando el sistema detecta a su hijo adolescente está en un momento de aguda angustia. Los expertos guiarán esta característica para apoyar la confianza entre padres y adolescentes.
Es decir, aunque OpenAI ha escuchado las preocupaciones en torno al uso de ChatGPT por parte de adolescentes, aún no ha anunciado exactamente cómo podría reforzar sus medidas ante posible contenido sexual inapropiado para menores de edad.
