# La superinteligencia de IA puede convertirse en una catástrofe — Vitalik Buterin
La humanidad no está manejando lo suficientemente bien la alineación de los valores globales para garantizar que la inteligencia artificial superinteligente trabaje para el bien de toda la humanidad. Esta declaración fue hecha por el cofundador de Ethereum, Vitalik Buterin.
Comentó la publicación de un artista 3D con el apodo de Utah teapot.
¿Cómo es posible que la alineación de la IA sea incluso un tema? Todos siempre preguntan "alineado a qué" y nadie tiene una respuesta diferente a "valores humanos". Los valores humanos coherentes y auto-consistentes no son una realidad. Aún no lo entiendo. ¿Qué estamos investigando? Es ridículo que esto sea un tema en crecimiento…
— tetera de Utah 🫖 (@SkyeSharkie) 24 de agosto de 2025
«¿Cómo puede existir el concepto de alineación de IA? Siempre pregunto: “¿alineación con qué?”. Nadie nunca responde nada, excepto “con los valores humanos”. Pero no existen valores humanos coherentes y no contradictorios. Todavía no entiendo. ¿Qué estamos investigando? Es absurdo que esto se convierta en una industria en crecimiento. Trabajo ficticio», escribió.
Buterin subrayó que en el mundo existen muchas cosas que contradicen los principios éticos. Como ejemplo, mencionó el asesinato o el encarcelamiento de inocentes.
«[…] Aún no somos lo suficientemente buenos en la coordinación como para garantizar que una única superinteligencia IA evite incluso esto», añadió el desarrollador.
La tetera de Utah señaló que el desarrollo de la inteligencia artificial coordinada se dirige hacia la limitación del acceso público al desarrollo. Al mismo tiempo, grandes empresas venden versiones de sus sistemas de IA que fomentan fenómenos negativos y actúan como herramientas de guerra.
«Estoy profundamente preocupado por el hecho de que la centralización del acceso a las tecnologías de IA permite imponer como cuestiones de seguridad lo que en realidad no lo es — por ejemplo, las discusiones en torno a la “psicosis” de LLM. De este modo, existe el riesgo de hacer daño a culturas únicas o marginales y a sus valores», señaló el usuario.
Buterin comparte muchas de estas preocupaciones.
«Creo que los mayores riesgos provendrán de los militares y otras estructuras que poseen un gran poder, lo que les permite eludir las reglas de seguridad que se aplican por defecto a todos los demás», añadió el cofundador de Ethereum.
La tetera de Utah fue mencionada como ejemplo por la startup de IA Anthropic. Están desarrollando versiones alternativas de modelos "civiles" y las proporcionan a los gobiernos. Pueden ser utilizadas para acciones militares o de inteligencia.
Buterin subrayó que la probabilidad de un escenario catastrófico para la humanidad debido a la IA aumenta en el caso de que haya solo un agente de inteligencia artificial superinteligente, que tenga voluntad propia y la capacidad de actuar como sujeto.
Si el entorno es pluralista, ningún sistema podrá controlar la situación de manera total. Sin embargo, para crear esto, no son suficientes solo los mecanismos de mercado. Se requieren esfuerzos intencionados, incluidos cambios en las leyes y en los incentivos, que no serán del agrado de las grandes corporaciones.
Recordamos que en 2022, el ministro de tecnologías de la información de India, Rajiv Chandrasekhar, pidió el desarrollo de estándares globales que garanticen la seguridad de la IA para el ser humano.
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
La IA superinteligente puede convertirse en una catástrofe — Vitalik Buterin
La humanidad no está manejando lo suficientemente bien la alineación de los valores globales para garantizar que la inteligencia artificial superinteligente trabaje para el bien de toda la humanidad. Esta declaración fue hecha por el cofundador de Ethereum, Vitalik Buterin.
Comentó la publicación de un artista 3D con el apodo de Utah teapot.
Buterin subrayó que en el mundo existen muchas cosas que contradicen los principios éticos. Como ejemplo, mencionó el asesinato o el encarcelamiento de inocentes.
La tetera de Utah señaló que el desarrollo de la inteligencia artificial coordinada se dirige hacia la limitación del acceso público al desarrollo. Al mismo tiempo, grandes empresas venden versiones de sus sistemas de IA que fomentan fenómenos negativos y actúan como herramientas de guerra.
Buterin comparte muchas de estas preocupaciones.
La tetera de Utah fue mencionada como ejemplo por la startup de IA Anthropic. Están desarrollando versiones alternativas de modelos "civiles" y las proporcionan a los gobiernos. Pueden ser utilizadas para acciones militares o de inteligencia.
Buterin subrayó que la probabilidad de un escenario catastrófico para la humanidad debido a la IA aumenta en el caso de que haya solo un agente de inteligencia artificial superinteligente, que tenga voluntad propia y la capacidad de actuar como sujeto.
Si el entorno es pluralista, ningún sistema podrá controlar la situación de manera total. Sin embargo, para crear esto, no son suficientes solo los mecanismos de mercado. Se requieren esfuerzos intencionados, incluidos cambios en las leyes y en los incentivos, que no serán del agrado de las grandes corporaciones.
Recordamos que en 2022, el ministro de tecnologías de la información de India, Rajiv Chandrasekhar, pidió el desarrollo de estándares globales que garanticen la seguridad de la IA para el ser humano.