Нобелівський лауреат стривожений розвитком ШІ, який сам же допоміг створити
Американський учений, який здобув 2024 року Нобелівську премію з фізики за свої новаторські роботи в галузі штучного інтелекту, заявив, що вважає останні досягнення в цій технології "дуже тривожними" і попередив про можливу катастрофу, якщо їх не стримати.
Виступаючи перед аудиторією Принстонського університету через відеозв'язок із Великої Британії, 91-річний професор зазначив, що за своє життя спостерігав зростання двох потужних, але потенційно небезпечних технологій: біологічної інженерії та ядерної фізики.
Ми звикли до технологій, які можуть бути як корисними, так і шкідливими, - сказав Гопфілд. - Як фізика, мене дуже турбує те, що ми не можемо повністю контролювати і розуміти, особливо якщо не знаємо, які обмеження можна накласти на цю технологію.
Він наголосив, що сучасні системи ШІ, хоча й виглядають як "абсолютні дива", працюють за принципами, які до кінця не зрозумілі вченим.
Це дуже, дуже тривожно, - додав він.
На його думку, необхідно глибше вивчати внутрішні механізми глибоких нейронних мереж, щоб запобігти можливому виходу ШІ з-під контролю.
Джон Гопфілд відомий створенням "мережі Гопфілда" - теоретичної моделі, що демонструє, як штучна нейронна мережа може імітувати процес зберігання і вилучення пам'яті в біологічному мозку. Його робота стала фундаментом для подальших досліджень у галузі ШІ.
Британсько-канадський учений Джеффрі Гінтон, якого часто називають "хрещеним батьком ШІ", розвинув модель Гопфілда, ввівши елемент випадковості в "машині Больцмана". Це проклало шлях до сучасних додатків ШІ, таких як генератори зображень.
Джеффрі Гінтон також висловив свої побоювання з приводу майбутнього ШІ.
Існує дуже мало прикладів того, коли більш розумні істоти контролюються менш розумними, - сказав 76-річний професор на прес-конференції в Університеті Торонто. Це змушує замислитися: коли ШІ стане розумнішим за нас, чи не візьме він контроль у свої руки?
Хопфілд порівняв ситуацію з науково-фантастичним сценарієм з роману Курта Воннегута "Колиска для кішки", де штучно створена речовина призводить до загибелі цивілізації.
Мене турбує все, що говорить: 'Я швидший за тебе, я більший за тебе... Чи можемо ми мирно співіснувати? Я не знаю, я переживаю, - зазначив він.
Обидва вчені закликають до проведення більш глибоких досліджень у сфері безпеки ШІ.
Ми терміново потребуємо більшої кількості досліджень, щоб зрозуміти, як уникнути катастрофічних сценаріїв, - наголосив Гінтон.
Він запропонував, щоб найкращі молоді дослідники займалися питаннями безпеки ШІ, а уряди зобов'язали великі компанії надавати необхідні обчислювальні ресурси для цих досліджень.