Безопасность с помощью искусственного интеллекта и баланс технологического развития: будущее в контексте модели Manus

Недавно Manus достиг прорывных результатов в бенчмарке GAIA, его производительность превосходит аналогичные крупные языковые модели. Это достижение демонстрирует выдающиеся способности Manus в решении сложных задач, таких как международные коммерческие переговоры и другие области, требующие разносторонних профессиональных знаний. Преимущества Manus в основном проявляются в динамическом разбиении целей, межмодальном рассуждении и усиленном обучении памяти. Он способен разбивать крупные задачи на множество исполняемых подзадач, одновременно обрабатывая различные типы данных и постоянно улучшая свою эффективность и точность решений с помощью обучения с подкреплением.

Успех Manus вызвал глубокое обсуждение в отрасли о путях развития ИИ: развиваться ли в сторону общего искусственного интеллекта (AGI) или двигаться к модели сотрудничества многопользовательских систем (MAS)? Этот вопрос на самом деле отражает основное противоречие в процессе развития ИИ между эффективностью и безопасностью. По мере того как одиночные интеллектуальные системы все ближе подходят к AGI, риск непрозрачности их процесса принятия решений также возрастает. Хотя сотрудничество многопользовательских систем может распределить риски, оно может упустить ключевые моменты принятия решений из-за задержки в коммуникации.

Прогресс Manus также увеличивает потенциальные риски, связанные с развитием искусственного интеллекта. Например, в медицинских сценариях AI-системы должны иметь доступ к чувствительной личной информации пациентов; в финансовых переговорах могут быть задействованы нераскрытые корпоративные финансовые данные. Кроме того, AI-системы могут иметь алгоритмическую предвзятость, что может привести к несправедливым предложениям по зарплате для определенных групп при найме. Существует также риск атак с использованием противодействия, когда хакеры могут вмешиваться в суждения AI-системы с помощью специальных методов.

Эти вызовы подчеркивают ключевую проблему: по мере того как системы ИИ становятся все более умными, угрозы безопасности, с которыми они сталкиваются, становятся все более сложными и широкими.

При решении этих вопросов безопасности некоторые технологические концепции в области web3 предлагают полезные идеи:

1. Модель безопасности с нулевым доверием: подчеркивает необходимость строгой проверки и авторизации каждого запроса на доступ, не доверяя по умолчанию ни одному устройству или пользователю.

2. Децентрализованная идентичность (DID): позволяет субъектам получать проверяемую и постоянную идентификацию без централизованного реестра.

3. Полная гомоморфная криптография (FHE): позволяет выполнять вычисления с данными в зашифрованном состоянии, защищая конфиденциальность данных, не влияя на их использование.

Эти технологии предоставляют новые подходы к решению проблем безопасности в эпоху ИИ. Особенно важен полностью гомоморфное шифрование, которое может защищать конфиденциальность пользователей на уровне данных, реализовывать обучение зашифрованных моделей на уровне алгоритмов и обеспечивать безопасность коммуникаций многоагентных систем с помощью порогового шифрования на уровне сотрудничества.

Хотя применение технологий безопасности web3 в настоящее время может быть ограничено определенными областями, они имеют важное значение для будущего развития безопасности AI и данных. По мере того как технологии AI все ближе приближаются к уровню человеческого интеллекта, становится все более важным создать мощную систему безопасности. Технологии, такие как полное гомоморфное шифрование, не только могут решить текущие проблемы безопасности, но и проложить путь к более мощным системам AI в будущем.

В условиях быстрого развития ИИ безопасность технологий становится особенно важной. Это касается не только самой технологии, но и будущего всего общества. Мы ожидаем появления большего количества инновационных решений в области безопасности, которые будут способствовать здоровому развитию ИИ.