Баланс між безпекою та ефективністю ШІ: Роздуми, викликані моделлю Manus
Нещодавно модель Manus досягла проривного прогресу в бенчмаркінгу GAIA, перевершивши продуктивність інших великих мовних моделей того ж рівня. Це досягнення означає, що Manus здатен самостійно виконувати складні завдання, такі як міжнародні бізнес-переговори, що включають аналіз контрактів, розробку стратегій та генерацію пропозицій. Переваги Manus полягають у його здатності до динамічного розподілу цілей, міжмодального міркування та посиленого навчання пам'яті. Він може розбивати складні завдання на кілька виконуваних підзавдань, одночасно обробляючи різні типи даних, і постійно підвищувати ефективність прийняття рішень та знижувати рівень помилок за допомогою навчання з підкріпленням.
Поява Manus знову підняла питання про шлях розвитку штучного інтелекту: чи варто йти до єдиного загального штучного інтелекту (AGI), чи до системи багатоінтелектів (MAS), що співпрацюють? Це питання насправді відображає основний конфлікт у розвитку ШІ між ефективністю та безпекою. Оскільки одиничний інтелект все більше наближається до AGI, ризик непрозорості його процесу прийняття рішень також зростає; з іншого боку, хоча співпраця багатоінтелектів може розподілити ризики, затримка зв'язку може призвести до пропуску ключових моментів прийняття рішень.
Прогрес Manus також підкреслює вроджені ризики розвитку ШІ. Наприклад, у медичних сценаріях системи ШІ потребують доступу до чутливих геномних даних пацієнтів; у фінансових переговорах можуть бути залучені не оприлюднені фінансові дані компаній. Крім того, у системах ШІ можуть існувати алгоритмічні упередження, такі як надання несправедливих пропозицій по зарплаті певним групам під час процесу найму або висока ймовірність помилок при оцінці умов контрактів у нових галузях. Ще серйозніше, системи ШІ можуть стикатися з атакою на зносостійкість, коли хакери порушують здатність ШІ до судження за допомогою певних частот звуку.
Ці виклики підкреслюють тривожну тенденцію: чим розумніші системи ШІ, тим ширша їхня потенційна атака.
У сфері криптовалют і блокчейну безпека завжди була основною проблемою. Натхнені теорією "неможливого трикутника", запропонованою засновником Ethereum Віталіком Бутеріним, в цій галузі виникло безліч криптотехнологій:
Модель нульового довіри: ця модель базується на принципі "ніколи не довіряй, завжди перевіряй", що передбачає сувору автентифікацію та авторизацію для кожного запиту на доступ.
Децентралізована ідентичність (DID): це стандарт ідентифікації, який не потребує централізованих реєстраційних органів, що відкриває нові можливості для управління ідентичністю в епоху Web3.
Повна гомоморфна криптація (FHE): ця технологія дозволяє виконувати обчислення над даними в зашифрованому стані, що є надзвичайно важливим для захисту приватності в таких сценаріях, як хмарні обчислення та зовнішнє зберігання даних.
Повна гомоморфна криптографія, як новітня технологія, має потенціал стати ключовим інструментом для вирішення проблем безпеки в епоху штучного інтелекту. Вона може відігравати роль у кількох аспектах:
Дані на рівні: Вся інформація, введена користувачем (включаючи біометричні дані, голос тощо), обробляється в зашифрованому стані, навіть сама система ШІ не може розшифрувати вихідні дані.
Алгоритмічний рівень: реалізація "навчання зашифрованої моделі" за допомогою FHE, що ускладнює розуміння процесу прийняття рішень AI навіть для розробників.
Співпраця: комунікація між кількома агентами ШІ використовує порогове шифрування, і навіть якщо один вузол буде зламано, це не призведе до витоку глобальних даних.
Хоча технології безпеки Web3 можуть не мати безпосереднього зв'язку з звичайними користувачами, вони мають непрямий вплив на всіх. У цьому складному цифровому світі безперервне підвищення рівня безпеки є ключем до уникнення статусу "інвестора, який легко обманюють".
З розвитком технологій штучного інтелекту, які все більше наближаються до рівня людського інтелекту, нам потрібні більш просунуті системи захисту. Повна гомоморфна криптографія не лише вирішує поточні проблеми безпеки, але й закладає основу для більш потужної епохи штучного інтелекту в майбутньому. На шляху до загального штучного інтелекту FHE більше не є опціональним, а є необхідною умовою для забезпечення безпечного розвитку штучного інтелекту.
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
7 лайків
Нагородити
7
5
Поділіться
Прокоментувати
0/400
FOMOmonster
· 17год тому
Надзвичайно сильно, це перевертає традиції.
Переглянути оригіналвідповісти на0
WhaleWatcher
· 17год тому
Трохи цікаво, але як би не було, AI не повинен знищити людство.
Переглянути оригіналвідповісти на0
GasFeeLover
· 17год тому
Га? Проривний прогрес, хіба це не спалювання Обчислювальної потужності?
Модель Manus зламала продуктивність ШІ, повністю гомоморфне шифрування може стати ключем до безпеки AGI
Баланс між безпекою та ефективністю ШІ: Роздуми, викликані моделлю Manus
Нещодавно модель Manus досягла проривного прогресу в бенчмаркінгу GAIA, перевершивши продуктивність інших великих мовних моделей того ж рівня. Це досягнення означає, що Manus здатен самостійно виконувати складні завдання, такі як міжнародні бізнес-переговори, що включають аналіз контрактів, розробку стратегій та генерацію пропозицій. Переваги Manus полягають у його здатності до динамічного розподілу цілей, міжмодального міркування та посиленого навчання пам'яті. Він може розбивати складні завдання на кілька виконуваних підзавдань, одночасно обробляючи різні типи даних, і постійно підвищувати ефективність прийняття рішень та знижувати рівень помилок за допомогою навчання з підкріпленням.
Поява Manus знову підняла питання про шлях розвитку штучного інтелекту: чи варто йти до єдиного загального штучного інтелекту (AGI), чи до системи багатоінтелектів (MAS), що співпрацюють? Це питання насправді відображає основний конфлікт у розвитку ШІ між ефективністю та безпекою. Оскільки одиничний інтелект все більше наближається до AGI, ризик непрозорості його процесу прийняття рішень також зростає; з іншого боку, хоча співпраця багатоінтелектів може розподілити ризики, затримка зв'язку може призвести до пропуску ключових моментів прийняття рішень.
Прогрес Manus також підкреслює вроджені ризики розвитку ШІ. Наприклад, у медичних сценаріях системи ШІ потребують доступу до чутливих геномних даних пацієнтів; у фінансових переговорах можуть бути залучені не оприлюднені фінансові дані компаній. Крім того, у системах ШІ можуть існувати алгоритмічні упередження, такі як надання несправедливих пропозицій по зарплаті певним групам під час процесу найму або висока ймовірність помилок при оцінці умов контрактів у нових галузях. Ще серйозніше, системи ШІ можуть стикатися з атакою на зносостійкість, коли хакери порушують здатність ШІ до судження за допомогою певних частот звуку.
Ці виклики підкреслюють тривожну тенденцію: чим розумніші системи ШІ, тим ширша їхня потенційна атака.
У сфері криптовалют і блокчейну безпека завжди була основною проблемою. Натхнені теорією "неможливого трикутника", запропонованою засновником Ethereum Віталіком Бутеріним, в цій галузі виникло безліч криптотехнологій:
Модель нульового довіри: ця модель базується на принципі "ніколи не довіряй, завжди перевіряй", що передбачає сувору автентифікацію та авторизацію для кожного запиту на доступ.
Децентралізована ідентичність (DID): це стандарт ідентифікації, який не потребує централізованих реєстраційних органів, що відкриває нові можливості для управління ідентичністю в епоху Web3.
Повна гомоморфна криптація (FHE): ця технологія дозволяє виконувати обчислення над даними в зашифрованому стані, що є надзвичайно важливим для захисту приватності в таких сценаріях, як хмарні обчислення та зовнішнє зберігання даних.
Повна гомоморфна криптографія, як новітня технологія, має потенціал стати ключовим інструментом для вирішення проблем безпеки в епоху штучного інтелекту. Вона може відігравати роль у кількох аспектах:
Дані на рівні: Вся інформація, введена користувачем (включаючи біометричні дані, голос тощо), обробляється в зашифрованому стані, навіть сама система ШІ не може розшифрувати вихідні дані.
Алгоритмічний рівень: реалізація "навчання зашифрованої моделі" за допомогою FHE, що ускладнює розуміння процесу прийняття рішень AI навіть для розробників.
Співпраця: комунікація між кількома агентами ШІ використовує порогове шифрування, і навіть якщо один вузол буде зламано, це не призведе до витоку глобальних даних.
Хоча технології безпеки Web3 можуть не мати безпосереднього зв'язку з звичайними користувачами, вони мають непрямий вплив на всіх. У цьому складному цифровому світі безперервне підвищення рівня безпеки є ключем до уникнення статусу "інвестора, який легко обманюють".
З розвитком технологій штучного інтелекту, які все більше наближаються до рівня людського інтелекту, нам потрібні більш просунуті системи захисту. Повна гомоморфна криптографія не лише вирішує поточні проблеми безпеки, але й закладає основу для більш потужної епохи штучного інтелекту в майбутньому. На шляху до загального штучного інтелекту FHE більше не є опціональним, а є необхідною умовою для забезпечення безпечного розвитку штучного інтелекту.