En el vertiginoso mundo de la inteligencia artificial, OpenAI ha anunciado que está explorando cómo generar contenido pornográfico de manera «responsable». Según reveló la compañía esta semana, su nueva política NSFW busca iniciar un diálogo sobre cómo y dónde permitir imágenes y textos explícitos en sus productos de IA.
Este anuncio, que forma parte de un documento diseñado para recabar opiniones sobre las instrucciones de su IA, no es la primera vez que OpenAI muestra disposición a entrar en terrenos polémicos. Mira Murati, directora de tecnología de la compañía, expresó anteriormente a The Wall Street Journal su incertidumbre sobre si permitirían que su herramienta de generación de video, Sora, se utilizara para crear contenido adulto.
“Queremos asegurarnos de que las personas tengan el máximo control en la medida en que no viole la ley ni los derechos de otras personas”, dijo Joanne Jang, miembro del equipo de producto de OpenAI, a NPR. Según Jang, existen casos creativos en los que el contenido que involucra sexualidad o desnudez es importante para los usuarios.
Sin embargo, la exploración de OpenAI en el contenido para adultos generado por IA plantea numerosas preocupaciones. Una de ellas es el respeto por los derechos de los creadores. Los modelos de OpenAI se han entrenado con grandes cantidades de contenido web público, incluyendo material pornográfico, sin haber obtenido necesariamente las licencias de este contenido ni permitir que los creadores opten por excluirse hasta hace relativamente poco tiempo.
El ingreso en la industria del contenido para adultos ya es difícil y, si OpenAI generaliza el porno generado por IA, los creadores enfrentarían una competencia aún más dura, una competencia construida sobre la base de sus propias obras.
Además, las salvaguardias actuales muestran fallas. OpenAI y sus rivales han estado perfeccionando sus herramientas de filtrado y moderación durante años, pero los usuarios continuamente encuentran formas de burlar estos sistemas para abusar de los modelos de IA. Un incidente reciente involucró a Microsoft, que tuvo que modificar su herramienta de creación de imágenes Designer, que utiliza modelos de OpenAI, después de que los usuarios encontraran una manera de crear imágenes desnudas de Taylor Swift.
La AI ya ha creado nuevas formas de abuso sexual. Estudiantes de secundaria están usando aplicaciones impulsadas por IA para «desnudar» fotos de sus compañeros sin su consentimiento; una encuesta realizada en 2021 en el Reino Unido, Nueva Zelanda y Australia encontró que el 14% de los encuestados entre 16 y 64 años habían sido víctimas de imágenes deepfake.
Nuevas leyes en EE. UU. y otros lugares intentan combatir esto, pero está por verse si el sistema de justicia, que ya tiene dificultades para erradicar la mayoría de los delitos sexuales, puede regular una industria tan dinámica como la de la IA.
Es difícil imaginar un enfoque que OpenAI pueda adoptar para el porno generado por IA que no esté lleno de riesgos. Tal vez OpenAI reconsiderará su postura una vez más. O quizás, contra todo pronóstico, encuentre una mejor manera. Sea cual sea el caso, parece que lo descubriremos más temprano que tarde.
Fuente: Noticias Inteligencia Artificial
