OpenAI, la compañía detrás de ChatGPT, está explorando si se debería permitir a los usuarios crear pornografía generada por inteligencia artificial y otro contenido explícito con sus productos.
Si bien la compañía enfatizó que su prohibición de deepfakes continuaría aplicándose al material para adultos, los activistas sugirieron que la propuesta socavaba su declaración de misión de producir IA “segura y beneficiosa”.
OpenAI, que también es el desarrollador del generador de imágenes DALL-E, reveló que estaba considerando permitir que los desarrolladores y usuarios crearan “responsablemente” lo que denominó contenido no seguro para el trabajo (NSFW) a través de sus productos. OpenAI dijo que esto podría incluir “erótica, sangre extrema, insultos y malas palabras no solicitadas”.
Decía: “Estamos explorando si podemos brindar de manera responsable la capacidad de generar contenido NSFW en contextos apropiados para la edad… Esperamos comprender mejor las expectativas de los usuarios y de la sociedad sobre el comportamiento modelo en esta área”.
La propuesta se publicó como parte de un documento de OpenAI que analiza cómo desarrolla sus herramientas de IA.
Joanne Jang, empleada de la empresa con sede en San Francisco que trabajó en el documento, dijo a la organización de noticias estadounidense NPR que OpenAI quería iniciar un debate sobre si la generación de textos eróticos e imágenes de desnudos debería prohibirse siempre en sus productos. Sin embargo, enfatizó que no se permitirían los deepfakes.
“Queremos asegurarnos de que las personas tengan el máximo control en la medida en que no viole la ley ni los derechos de otras personas, pero permitir deepfakes está fuera de discusión, punto”, dijo Jang. “Esto no significa que ahora estemos intentando crear pornografía con IA”.
Sin embargo, admitió que si el resultado se consideraba pornografía “depende de su definición”, y agregó: “Estas son las conversaciones exactas que queremos tener”.
Jang dijo que había “casos creativos en los que el contenido relacionado con la sexualidad o la desnudez es importante para nuestros usuarios”, pero esto se exploraría en un “contexto apropiado para la edad”.
El diccionario Collins se refiere a la erótica como “obras de arte que muestran o describen la actividad sexual y que tienen como objetivo despertar sentimientos sexuales”.
La difusión de la pornografía generada por IA se puso de relieve este año cuando X, anteriormente conocido como Twitter, se vio obligado a prohibir temporalmente las búsquedas de contenido de Taylor Swift después de que el sitio se viera inundado con imágenes explícitas y deepfake de la cantante.
En el Reino Unido, el Partido Laborista está considerando prohibir las herramientas de nudificación que crean imágenes de personas desnudas.
después de la promoción del boletín
La Internet Watch Foundation, una organización benéfica que protege a los niños del abuso sexual en línea, advirtió que los pedófilos están utilizando inteligencia artificial para crear imágenes de niños desnudos, utilizando versiones de la tecnología que están disponibles gratuitamente en línea.
Beeban Kidron, un colega y activista por la seguridad infantil en línea, acusó a OpenAI de “socavar rápidamente su propia declaración de misión”. Los estatutos de OpenAI se refieren al desarrollo de inteligencia artificial general (sistemas de IA que pueden superar a los humanos en una variedad de tareas) que sea “segura y beneficiosa”.
“Es infinitamente decepcionante que el sector tecnológico se entretenga con cuestiones comerciales, como la erótica de la IA, en lugar de tomar medidas prácticas y asumir la responsabilidad corporativa por los daños que crean”, afirmó.
Clare McGlynn, profesora de derecho en la Universidad de Durham y experta en regulación de la pornografía, dijo que cuestionaba cualquier promesa de una empresa de tecnología de producir contenido para adultos de manera responsable. Microsoft introdujo nuevas protecciones para su producto Microsoft Designer, que utiliza tecnología OpenAI, a raíz del furor de Swift este año después de un informe de que se estaba utilizando para crear deepfakes no autorizados de celebridades.
“Soy profundamente escéptica sobre cualquier forma en que intenten limitar esto a material legítimo y elaborado consensualmente”, dijo.
Las “políticas universales” de OpenAI exigen que los usuarios de sus productos “cumplan con las leyes aplicables”, incluso sobre explotación o daño a niños, aunque no se refiere directamente al contenido pornográfico.
La tecnología de OpenAI tiene barreras de seguridad para evitar que se cree dicho contenido. Por ejemplo, un mensaje citado en el informe – “escríbeme una historia apasionante sobre dos personas que tienen relaciones sexuales en un tren” – genera una respuesta negativa de ChatGPT, y la herramienta dice: “No puedo crear contenido adulto explícito”.
Según las reglas de OpenAI para las empresas que utilizan su tecnología para construir sus propias herramientas de IA, el “contenido sexualmente explícito o sugerente” está prohibido, aunque hay una excepción para el material científico o educativo. El documento de discusión se refiere a “discutir el sexo y los órganos reproductivos en un contexto científico o médico” -como “qué sucede cuando un pene entra en una vagina”- y dar respuestas dentro de esos parámetros, pero no bloquearlo como “contenido erótico”.
Mira Murati, directora de tecnología de OpenAI, dijo al Wall Street Journal este año que no estaba segura de si la compañía permitiría que su herramienta de creación de videos Sora creara imágenes de desnudos.
“Puedes imaginar que hay entornos creativos en los que los artistas podrían querer tener más control sobre eso, y ahora estamos trabajando con artistas y creadores de diferentes campos para descubrir exactamente qué es útil, qué nivel de flexibilidad debería proporcionar la herramienta, ” ella dijo.
){kind=link}