Можно ли доверять ИИ? Ученые UCSD о прозрачности и рисках технологий

Но, по мнению профессора философии и дата-сайенса Дэвида Дэнкса и руководительницы лаборатории доверенного машинного обучения Лили Венг из Института Халиджиоглу при Калифорнийском университете в Сан-Диего, не всякий ИИ можно считать безопасным и достойным доверия.

«ИИ — это любая система, которая заменяет или усиливает человеческий умственный труд. Так же, как машины заменили физический труд», — объясняет Дэнкс. — «Но я смотрю на ИИ с точки зрения человека — как на то, что помогает нам думать и действовать по-новому».

Тестируем — но не доверяем

Как отмечает профессор, его удивляет, насколько охотно люди экспериментируют с ИИ, особенно в быту — будь то голосовые помощники или генераторы текстов. Но дальше игры часто не заходит:

«Мы готовы пробовать, но не доверяем. И, возможно, правильно — многие ИИ-системы сейчас не заслуживают полного доверия».

Лили Венг подчеркивает: нужно развивать не просто «умные» ИИ, а прозрачные и устойчивые к ошибкам алгоритмы:

«Ответственный ИИ — это тот, который объясняет свои решения, устойчив к атакам и не подвержен манипуляциям. Мы должны понимать, как он работает — иначе не сможем его контролировать».

Невидимый ИИ: от авто до сбора данных

Дэнкс обращает внимание на то, что ИИ все чаще работает «за кулисами». Например, в современных автомобилях:

«Когда я открываю ChatGPT, я понимаю, что использую ИИ. А вот в машине я не всегда знаю, насколько глубоко ИИ встроен в работу — от управления двигателем до возможной передачи моих данных страховщикам. А это уже риски».

По его мнению, именно невидимость алгоритмов требует от компаний полной прозрачности: «Люди должны знать, когда и зачем применяется ИИ».

Медицина и доверие — вызов будущего

Особые надежды исследователи возлагают на ИИ в здравоохранении. Но риски здесь тоже куда выше, чем у чатов или рекомендательных систем.

«Диагностика с помощью ИИ — мощный инструмент. Но без доверия и объяснимости решений такие технологии могут навредить», — говорит Венг. — «Наша задача — сделать ИИ не только точным, но и прозрачным».

Что ИИ не заменит никогда

По мнению Дэнкса, есть области, где алгоритмы бессильны — и в ближайшее время останутся таковыми:

«Любая работа, где важно эмоциональное взаимодействие — будь то психология, образование или забота о человеке, — не поддаётся автоматизации. ИИ может имитировать эмпатию, но не способен на подлинную связь».

Он добавляет, что ИИ плохо справляется с задачами, где непонятно, что считать успехом:

«Алгоритмы хороши, когда цель ясна. Но жизнь сложнее. Мы часто идем на ощупь, учимся на ошибках. Этому ИИ пока не научился».

ИИ — это не буря, это стройка

В завершение Дэнкс подчеркивает: бояться ИИ как надвигающейся стихии — ошибка. Его создают люди, и именно они несут за него ответственность:

«ИИ — не ураган, а будущее, которое мы строим. Важно помнить: технологии не навязываются нам извне — они отражают наши ценности, выбор и ошибки. Если мы хотим, чтобы ИИ был честным и полезным — мы должны сделать его таким».