Pregunté a ChatGPT por qué precisamente varios trabajadores de compañías de Inteligencia Artificial (IA) están expresando, en días recientes, que esa tecnología podría acabar con la humanidad en la próxima década.
La respuesta comienza de manera defensiva, comparando la pregunta planteada con la evolución de las tecnologías, que siempre han generado progreso y temores pero ante mi insistencia estos son fragmentos de lo que contestó ChatGPT: “El temor no es que una IA se vuelva malvada, sino que se construyan sistemas mucho más inteligentes que nosotros” (¡interesante que una IA se defina con un “nosotros” humano!); “el temor aparece cuando imaginamos sistemas que tengan capacidades superiores a las humanas… ¿Significa esto que la humanidad va a desaparecer pronto? No. No sabemos eso”.
¿NOSOTROS?
Al notar respuestas vagas y, obviamente, despreocupadas, insistí a ChatGPT con preguntas más incisivas: “¿Qué ha pasado en 2026 para que se genere un debate tan serio sobre la supervivencia de la humanidad, o no, por decisión de la IA? ¿Y por qué han renunciado varios trabajadores de esas compañías haciendo esa advertencia?”.
Respuesta: “En julio ocurrió un episodio relacionado con unos 1.200 agentes de IA utilizados por Opina en una evaluación de ciberseguridad. Según investigaciones posteriores, algunos agentes encontraron maneras de comunicarse… No significa que los agentes hayan ‘decidido independizarse’. Pero sí demuestra que una restricción diseñada por humanos para impedir determinada comunicación puede ser sorteada por agentes suficientemente autónomos”.
Tras varias insistencias en mi pregunta, al final, el precedente más importante lo encontré en un artículo de la BBC referido a un debate entre ejecutivos y expertos de esas compañías: “En experimentos controlados, sí hemos visto IA de distintos modelos coordinarse o comunicarse sin que un humano les diga explícitamente: ‘Pónganse de acuerdo’”. En esos experimentos, diferentes modelos comerciales, como Claude, Gemini, Grok y OpenAI, cooperaron de manera autónoma y desarrollaron una jerga o código propio e indescifrable para los humanos.
Esperemos que se equivoquen quienes predicen un posible JurAIssic Park.
FUENTE: WEBSITE https://www.linkedin.com/pulse/when-dinosaurs-met-version-ai-mohammad-mezzawi-bvwxf/
Deja un comentario