Чи можна довіряти ШІ? Вчені UCSD про прозорість і ризики технологій

Але, на думку професора філософії та дата-сайєнсу Девіда Денкса і керівниці лабораторії довіреного машинного навчання Лілі Венг з Інституту Халіджіоглу при Каліфорнійському університеті в Сан-Дієго, не будь-який ШІ можна вважати безпечним і гідним довіри.

"ШІ - це будь-яка система, яка замінює або підсилює людську розумову працю. Так само, як машини замінили фізичну працю", - пояснює Денкс. - "Але я дивлюся на ШІ з погляду людини - як на те, що допомагає нам думати і діяти по-новому".

Тестуємо - але не довіряємо

Як зазначає професор, його дивує, наскільки охоче люди експериментують зі ШІ, особливо в побуті - чи то голосові помічники, чи генератори текстів. Але далі гри часто не заходить:

"Ми готові пробувати, але не довіряємо. І, можливо, правильно - багато АІ-систем зараз не заслуговують на повну довіру".

Лілі Венг наголошує: потрібно розвивати не просто "розумні" ШІ, а прозорі та стійкі до помилок алгоритми:

"Відповідальний ШІ - це той, який пояснює свої рішення, стійкий до атак і не схильний до маніпуляцій. Ми повинні розуміти, як він працює - інакше не зможемо його контролювати".

Невидимий ШІ: від авто до збору даних

Денкс звертає увагу на те, що ШІ все частіше працює "за лаштунками". Наприклад, у сучасних автомобілях:

"Коли я відкриваю ChatGPT, я розумію, що використовую АІ. А ось у машині я не завжди знаю, наскільки глибоко ШІ вбудований у роботу - від керування двигуном до можливого передання моїх даних страховикам. А це вже ризики".

На його думку, саме невидимість алгоритмів вимагає від компаній повної прозорості: "Люди повинні знати, коли і навіщо застосовується ШІ".

Медицина і довіра - виклик майбутнього

Особливі надії дослідники покладають на ШІ в охороні здоров'я. Але ризики тут теж значно вищі, ніж у чатів або рекомендаційних систем.

"Діагностика за допомогою ШІ - потужний інструмент. Але без довіри і зрозумілості рішень такі технології можуть нашкодити", - каже Венг. - "Наше завдання - зробити ШІ не тільки точним, а й прозорим".

Що ШІ не замінить ніколи

На думку Денкса, є сфери, де алгоритми безсилі - і найближчим часом залишаться такими:

"Будь-яка робота, де важлива емоційна взаємодія - чи то психологія, чи то освіта, чи то турбота про людину, - не піддається автоматизації. ШІ може імітувати емпатію, але не здатний на справжній зв'язок".

Він додає, що ШІ погано справляється із завданнями, де незрозуміло, що вважати успіхом:

"Алгоритми хороші, коли мета зрозуміла. Але життя складніше. Ми часто йдемо навпомацки, вчимося на помилках. Цього ШІ поки не навчився".

ШІ - це не буря, це будівництво

На завершення Денкс підкреслює: боятися ШІ як стихії, що насувається, - помилка. Його створюють люди, і саме вони несуть за нього відповідальність:

"ШІ - не ураган, а майбутнє, яке ми будуємо. Важливо пам'ятати: технології не нав'язуються нам ззовні - вони відображають наші цінності, вибір і помилки. Якщо ми хочемо, щоб ШІ був чесним і корисним - ми повинні зробити його таким".