Нобелевский лауреат встревожен развитием ИИ, который сам же помог создать

Выступая перед аудиторией Принстонского университета через видеосвязь из Великобритании, 91-летний профессор отметил, что за свою жизнь наблюдал рост двух мощных, но потенциально опасных технологий: биологической инженерии и ядерной физики.

Мы привыкли к технологиям, которые могут быть как полезными, так и вредными, — сказал Хопфилд. - Как физика, меня очень беспокоит то, что мы не можем полностью контролировать и понимать, особенно если не знаем, какие ограничения можно наложить на эту технологию.

Он подчеркнул, что современные системы ИИ, хотя и выглядят как "абсолютные чудеса", работают по принципам, которые до конца не ясны ученым.

Это очень, очень тревожно, — добавил он.

По его мнению, необходимо глубже изучать внутренние механизмы глубоких нейронных сетей, чтобы предотвратить возможный выход ИИ из-под контроля.

Джон Хопфилд известен созданием "сети Хопфилда" — теоретической модели, демонстрирующей, как искусственная нейронная сеть может имитировать процесс хранения и извлечения памяти в биологическом мозге. Его работа стала фундаментом для дальнейших исследований в области ИИ.

Британско-канадский ученый Джеффри Хинтон, часто называемый "крестным отцом ИИ", развил модель Хопфилда, введя элемент случайности в "машине Больцмана". Это проложило путь к современным приложениям ИИ, таким как генераторы изображений.

Джеффри Хинтон также выразил свои опасения по поводу будущего ИИ.

Существует очень мало примеров того, когда более разумные существа контролируются менее разумными, — сказал 76-летний профессор на пресс-конференции в Университете Торонто. Это заставляет задуматься: когда ИИ станет умнее нас, не возьмет ли он контроль в свои руки?

Хопфилд сравнил ситуацию с научно-фантастическим сценарием из романа Курта Воннегута "Колыбель для кошки", где искусственно созданное вещество приводит к гибели цивилизации.

Меня беспокоит все, что говорит: 'Я быстрее тебя, я больше тебя... Можем ли мы мирно сосуществовать?' Я не знаю, я переживаю, — отметил он.

Оба ученых призывают к проведению более глубоких исследований в области безопасности ИИ.

Мы срочно нуждаемся в большем количестве исследований, чтобы понять, как избежать катастрофических сценариев, — подчеркнул Хинтон.

Он предложил, чтобы лучшие молодые исследователи занимались вопросами безопасности ИИ, а правительства обязали крупные компании предоставлять необходимые вычислительные ресурсы для этих исследований.