Seguridad de la IA plantea preocupación, encriptación completamente homomórfica como solución

Con el rápido desarrollo de la tecnología de inteligencia artificial, la aparición de sistemas avanzados de IA como Manus ha suscitado una profunda reflexión en la industria sobre los problemas de seguridad de la IA. Manus ha demostrado un rendimiento excepcional en las pruebas de referencia GAIA, superando a otros modelos grandes en el mismo nivel, y es capaz de realizar de manera independiente tareas complejas como negociaciones comerciales multinacionales. Sin embargo, esta alta inteligencia también conlleva posibles riesgos de seguridad.

! Manus trae el amanecer de AGI, también vale la pena reflexionar sobre la seguridad de la IA

El desarrollo de la AI enfrenta el dilema de equilibrar eficiencia y seguridad. Cuanto más se acerca la inteligencia singular a la AGI (inteligencia artificial general), mayor es el riesgo de que sus decisiones se conviertan en una caja negra; mientras que la colaboración entre múltiples agentes, aunque puede dispersar el riesgo, puede verse afectada en las decisiones clave debido a la latencia en la comunicación. La evolución de Manus ha amplificado inadvertidamente los riesgos de seguridad inherentes a la AI, incluyendo la filtración de datos personales, el sesgo algorítmico y los ataques adversariales.

Para hacer frente a estos desafíos, la tecnología de cifrado totalmente homomórfico (FHE) se ha convertido en una poderosa herramienta para resolver problemas de seguridad en la era de la IA. FHE permite el cálculo de datos cifrados para procesar información confidencial sin descifrado. A nivel de datos, toda la información introducida por el usuario puede ser procesada en un estado encriptado para evitar la fuga de los datos originales. A nivel de algoritmos, el "entrenamiento de modelos criptográficos" implementado por FHE hace imposible que incluso los desarrolladores espíen la ruta de toma de decisiones de la IA. A nivel de colaboración, el cifrado de umbral se puede utilizar para comunicarse entre varios agentes para mejorar la seguridad del sistema en general.

El campo de la Web3 siempre se ha preocupado por los problemas de seguridad, y se han derivado diversos métodos de cifrado. Además de FHE, también incluye modelos de seguridad de confianza cero e identidad descentralizada (DID), entre otros. Sin embargo, en comparación con otros métodos de cifrado, FHE, como la tecnología más emergente, se considera la clave para resolver los problemas de seguridad de la IA.

A pesar de que la tecnología de seguridad de Web3 puede no tener una conexión directa con los usuarios comunes, su impacto es profundo. En la rápida evolución de la IA, se vuelve especialmente importante construir un sistema de defensa de seguridad robusto. El Cifrado homomórfico no solo puede abordar los desafíos de seguridad actuales que enfrenta la IA, sino que también pavimenta el camino hacia una era de IA más poderosa en el futuro. A medida que la IA se acerca cada vez más a la inteligencia humana, adoptar tecnologías de encriptación avanzadas para proteger la seguridad de los datos y los sistemas se convertirá en una tendencia inevitable.