Abierto AI dio a conocer un borrador de su documentación llamado Especificaciones del modelo este miércoles, delineando la intención de la compañía de regular el comportamiento de sus inteligencias artificiales, incluyendo ChatGPT. Entre los puntos destacables está la consideración de OpenAI de regular la producción de contenido pornográfico y otros materiales explícitosya que sus políticas actuales prohíben dicho contenido.
Según el documento, OpenAI está explorando la posibilidad de permitiendo la generación de contenido NSFW (acrónimo de “no seguro para el trabajo”) a través de su API y ChatGPT. Entre los contenidos clasificados como NSFW en el documento se encuentran Erótica, sangre extrema, insultos no solicitados y blasfemias..
Gracia McGuireportavoz de OpenAI, declaró a CABLEADO Esa especificación del modelo tiene como objetivo aportar transparencia al proceso de desarrollo y obtener comentarios de varias partes interesadas. Sin embargo, se negó a brindar detalles específicos sobre la exploración de generar contenido explícito por parte de la empresa.
-La posibilidad de que OpenAI permita contenido explícito ha generado mucha incertidumbre, especialmente en el contexto del aumento de la pornografía generada por IA, como los deepfakes. Estos videos o imágenes explícitos, creados con IA, representan actores y actrices porno cuyos rostros han sido reemplazados por personas reales sin su consentimientolo que puede dar lugar a situaciones de acoso y abuso.
Danielle Keats Limónprofesor de la Facultad de Derecho de la Universidad de Virginia, ha expresado su preocupación por esta dirección, señalando la impactos graves que el contenido explícito generado por IA puede tener en la privacidad y seguridad de las personas afectadas.
Aunque las políticas de OpenAI prohíben la suplantación de identidad sin permiso, La posible regulación para generar contenido NSFW plantea muchas preguntas. sobre la capacidad de la empresa para moderar eficazmente el uso malicioso de sus herramientas. microsoft tuvo que lidiar con un problema similar, realizando una serie de cambios en sus políticas después de que se confirmó que su IA generativa se había utilizado para crear imágenes falsas de Taylor Swift que fueron distribuidos en Gorjeo.
