A menudo se ha dicho que ver para creer, pero luego apareció la tecnología deepfake. Si bien las fotografías, videos y grabaciones de audio alguna vez fueron el estándar de oro para probar algo real, los nuevos modelos de inteligencia artificial (IA) que pueden crear medios realistas (pero falsos) señalan un cambio de paradigma en cómo las personas deciden confiar en el contenido. El término deepfake se refiere a textos, sonidos o imágenes fabricados que existen sólo como una fabricación digital: aprendizaje “profundo” + resultados “falsos”. Este subconjunto de contenido sintético se ha estado desarrollando durante años, pero el lanzamiento de grandes modelos de lenguaje (LLM) y otros tipos de IA generativa han impulsado aplicaciones gratuitas y de bajo costo que requieren poca habilidad técnica para su uso. Todos los que tienen una conexión a Internet ahora tienen las claves para los generadores de datos sintéticos. También te puede interesar: OpenAI disolvió su equipo centrado en riesgos de IA a largo plazo Ahora mismo estamos a un lado de un río turbulento de contenidos sintéticos y el futuro está en la otra orilla. Debemos construir un puente de daño mínimo y beneficio máximo sin ser arrastrados en el proceso. La construcción ya ha comenzado y el desafío para los formuladores de políticas, líderes empresariales, tecnólogos y otros es ayudar a la sociedad a cruzar de manera segura. Esto significa llegar a un lugar donde esta tecnología sea común, familiar y confiable. La pregunta es ¿cómo? Mirando más allá de los deepfakes El fenómeno de los deepfakes ha generado preocupaciones significativas debido a casos como la creación de contenido explícito no consensuado y la manipulación de información crucial, como el incidente falso del ataque al Pentágono. La encuesta de 2023 revela que el 60% de los estadounidenses están "muy preocupados" por estos riesgos, lo que indica una percepción generalizada de la amenaza que representan para la sociedad. También puedes leer: Nvidia lanza siete cursos gratuitos para formación en Inteligencia Artificial Sin embargo, algunos defensores y emprendedores ven oportunidades en los deepfakes, destacando aplicaciones innovadoras como la traducción de idiomas y el uso en la industria del entretenimiento. Aunque hay beneficios potenciales, también se reconoce la necesidad de abordar los riesgos asociados con esta tecnología mediante enfoques éticos y regulaciones adecuadas, asegurando así su uso responsable y el desarrollo de un futuro donde los generadores de contenido sintético sean más realistas y accesibles para todos. Dominios de responsabilidad El dominio de la responsabilidad en la creación y uso del contenido sintético implica una distribución entre múltiples actores. Las empresas tecnológicas, al decidir qué herramientas desarrollar y lanzar, deben considerar cuidadosamente el impacto ético y social de sus productos, especialmente en contextos sensibles como las elecciones democráticas. Además, el sector privado tiene la responsabilidad de garantizar que el uso del contenido sintético no comprometa la confianza de los clientes ni amenace el bienestar de los empleados. Por otro lado, las organizaciones sin fines de lucro y las ONG tienen la tarea de explorar cómo el contenido sintético puede ser utilizado para promover la equidad y la alfabetización tecnológica. Mientras tanto, los legisladores y reguladores deben desarrollar marcos normativos que aborden los desafíos únicos que plantea esta tecnología en rápida evolución, adoptando un enfoque estratégico y coordinado. Por último, el público en general también tiene un papel crucial al educarse sobre la inteligencia artificial y utilizar esta tecnología de manera responsable. En conjunto, estas acciones determinarán si el contenido sintético puede ganar la confianza necesaria para construir un futuro confiable. Fuente: World Economic Forum