Від діпфейків до фальшивих голосів: як не попастися АІ-шахраям

Коли Габріель Агілар був студентом, він сам став жертвою шахраїв, які прикинулися роботодавцями. Після "співбесіди" йому надіслали фальшивий чек на купівлю ноутбука, попросивши повернути здачу. На щастя, банк вчасно запідозрив підробку. Але тепер, роки потому, Агілар - уже доцент технічного письма в Університеті Техасу в Арлінгтоні - вивчає, як такі схеми могли б стати набагато небезпечнішими в епоху штучного інтелекту.

ШІ на зло: нові інструменти - старі прийоми

У своїй новій статті, опублікованій у Journal of Business and Technical Communication, Агілар аналізує, як сучасні шахраї використовують ШІ - від голосових ботів до діпфейків - щоб зробити традиційні схеми обману ще більш переконливими.

"ШІ не винайшов шахрайство заново, - зазначає дослідник. - Він просто зробив старі виверти набагато реалістичнішими".

Особливий акцент він робить на вразливих групах населення - зокрема, на латиноамериканській громаді США, яку шахраї часто обирають як ціль. Їхня довірливість, мовний бар'єр і брак цифрової грамотності роблять такі спільноти особливо вразливими до обману, що ґрунтується на ШІ.

Як захищатися від цифрових загроз

Агілар пропонує використовувати курси технічного письма як інструмент для підвищення грамотності у сфері ШІ та розпізнавання шахрайства. Такі курси вчать студентів чітко і точно викладати складну інформацію, дотримуватися інструкцій і ухвалювати обґрунтовані рішення - навички, життєво важливі у світі, де правдоподібну брехню може бути згенеровано за секунди.

Технічне письмо (або technical writing англійською) - це вид професійної письмової комунікації, метою якої є чітке, зрозуміле й точне передання спеціалізованої інформації. Воно використовується в науці, техніці, бізнесі, IT та інших сферах, де потрібно пояснювати складні речі просто.

Що включає в себе технічний лист:

• Інструкції та інструкції користувача (наприклад, як зібрати меблі або налаштувати програмне забезпечення)

• Технічні звіти та документація

• Опис процесів і процедур (наприклад, для виробництв або наукових лабораторій)

• API-документація та довідки з програмування

• Бізнес-комунікація: ділові листи, пропозиції, заявки на гранти, резюме проєктів

• Науково-популярні тексти для широкої аудиторії на базі складних даних

Навіщо це потрібно?

• Щоб передати складну інформацію зрозуміло: від інженера - менеджеру, від науковця - неспеціалісту, від розробника - користувачеві.

• Щоб запобігти помилкам і непорозумінням у технічних процесах.

• Щоб забезпечити безпеку та ефективність, особливо в медицині, виробництві, авіації та IT.

• Щоб підвищити цифрову грамотність, як у випадку з викладачем з Університету Техасу, який використовує курси технічного письма, щоб навчити студентів розпізнавати шахрайські схеми, що базуються на ШІ.

Приклад простого застосування:

Погано:

Підключіть пристрій, дотримуючись нормативів ISO 9001 з урахуванням параметрів напруги, описаних у додатку до сертифіката CE.

Добре (технічний лист):

Вставте кабель живлення в розетку. Переконайтеся, що напруга відповідає 220 В. Не використовуйте пристрій без заземлення.

У своїй методиці викладання він розробив чотириступеневу модель, що дає змогу студентам розуміти, як ШІ може застосовуватися в шахрайстві, і вчасно розпізнавати небезпечні сигнали. Головне, на думку дослідника, - розвивати критичне мислення і вчити студентів ділитися знаннями зі своїми сім'ями і спільнотами, підвищуючи рівень "ШІ-грамотності" знизу вгору.

"Коли люди починають помічати дрібні невідповідності, - каже Агілар, - вони вже не так легко піддаються маніпуляціям. Це захист, заснований на обізнаності".