Нобелівський лауреат стривожений розвитком ШІ, який сам же допоміг створити

Виступаючи перед аудиторією Принстонського університету через відеозв'язок із Великої Британії, 91-річний професор зазначив, що за своє життя спостерігав зростання двох потужних, але потенційно небезпечних технологій: біологічної інженерії та ядерної фізики.

Ми звикли до технологій, які можуть бути як корисними, так і шкідливими, - сказав Гопфілд. - Як фізика, мене дуже турбує те, що ми не можемо повністю контролювати і розуміти, особливо якщо не знаємо, які обмеження можна накласти на цю технологію.

Він наголосив, що сучасні системи ШІ, хоча й виглядають як "абсолютні дива", працюють за принципами, які до кінця не зрозумілі вченим.

Це дуже, дуже тривожно, - додав він.

На його думку, необхідно глибше вивчати внутрішні механізми глибоких нейронних мереж, щоб запобігти можливому виходу ШІ з-під контролю.

Джон Гопфілд відомий створенням "мережі Гопфілда" - теоретичної моделі, що демонструє, як штучна нейронна мережа може імітувати процес зберігання і вилучення пам'яті в біологічному мозку. Його робота стала фундаментом для подальших досліджень у галузі ШІ.

Британсько-канадський учений Джеффрі Гінтон, якого часто називають "хрещеним батьком ШІ", розвинув модель Гопфілда, ввівши елемент випадковості в "машині Больцмана". Це проклало шлях до сучасних додатків ШІ, таких як генератори зображень.

Джеффрі Гінтон також висловив свої побоювання з приводу майбутнього ШІ.

Існує дуже мало прикладів того, коли більш розумні істоти контролюються менш розумними, - сказав 76-річний професор на прес-конференції в Університеті Торонто. Це змушує замислитися: коли ШІ стане розумнішим за нас, чи не візьме він контроль у свої руки?

Хопфілд порівняв ситуацію з науково-фантастичним сценарієм з роману Курта Воннегута "Колиска для кішки", де штучно створена речовина призводить до загибелі цивілізації.

Мене турбує все, що говорить: 'Я швидший за тебе, я більший за тебе... Чи можемо ми мирно співіснувати? Я не знаю, я переживаю, - зазначив він.

Обидва вчені закликають до проведення більш глибоких досліджень у сфері безпеки ШІ.

Ми терміново потребуємо більшої кількості досліджень, щоб зрозуміти, як уникнути катастрофічних сценаріїв, - наголосив Гінтон.

Він запропонував, щоб найкращі молоді дослідники займалися питаннями безпеки ШІ, а уряди зобов'язали великі компанії надавати необхідні обчислювальні ресурси для цих досліджень.