От дипфейков до фальшивых голосов: как не попасться на уловки ИИ-мошенников

Когда Габриэль Агилар был студентом, он сам стал жертвой мошенников, притворившихся работодателями. После «собеседования» ему прислали фальшивый чек на покупку ноутбука, попросив вернуть сдачу. К счастью, банк вовремя заподозрил подделку. Но теперь, годы спустя, Агилар — уже доцент технического письма в Университете Техаса в Арлингтоне — изучает, как такие схемы могли бы стать куда более опасными в эпоху искусственного интеллекта.

ИИ во зло: новые инструменты — старые приёмы

В своей новой статье, опубликованной в Journal of Business and Technical Communication, Агилар анализирует, как современные мошенники используют ИИ — от голосовых ботов до дипфейков — чтобы сделать традиционные схемы обмана ещё более убедительными.

«ИИ не изобрёл мошенничество заново, — отмечает исследователь. — Он просто сделал старые уловки намного реалистичнее».

Особый акцент он делает на уязвимых группах населения — в частности, на латиноамериканской общине США, которую мошенники часто выбирают в качестве цели. Их доверчивость, языковой барьер и нехватка цифровой грамотности делают такие сообщества особенно уязвимыми к обману, основанному на ИИ.

Как защищаться от цифровых угроз

Агилар предлагает использовать курсы технического письма как инструмент для повышения грамотности в сфере ИИ и распознавания мошенничества. Такие курсы учат студентов ясно и точно излагать сложную информацию, следовать инструкциям и принимать обоснованные решения — навыки, жизненно важные в мире, где правдоподобная ложь может быть сгенерирована за секунды.

Техническое письмо (или technical writing на английском) — это вид профессиональной письменной коммуникации, целью которой является чёткая, понятная и точная передача специализированной информации. Оно используется в науке, технике, бизнесе, IT и других сферах, где нужно объяснять сложные вещи просто.

Что включает в себя техническое письмо:

• Инструкции и руководства пользователя (например, как собрать мебель или настроить программное обеспечение)

• Технические отчёты и документация

• Описание процессов и процедур (например, для производств или научных лабораторий)

• API-документация и справки по программированию

• Бизнес-коммуникация: деловые письма, предложения, заявки на гранты, резюме проектов

• Научно-популярные тексты для широкой аудитории на базе сложных данных

Зачем это нужно?

• Чтобы передать сложную информацию понятно: от инженера — менеджеру, от учёного — неспециалисту, от разработчика — пользователю.

• Чтобы предотвратить ошибки и недопонимание в технических процессах.

• Чтобы обеспечить безопасность и эффективность, особенно в медицине, производстве, авиации и IT.

• Чтобы повысить цифровую грамотность, как в случае с преподавателем из Университета Техаса, который использует курсы технического письма, чтобы обучить студентов распознавать мошеннические схемы, основанные на ИИ.

Пример простого применения:

Плохо:

Подключите устройство, соблюдая нормативы ISO 9001 с учётом параметров напряжения, описанных в приложении к сертификату CE.

Хорошо (техническое письмо):

Вставьте кабель питания в розетку. Убедитесь, что напряжение соответствует 220 В. Не используйте устройство без заземления.

В своей методике преподавания он разработал четырёхступенчатую модель, позволяющую студентам понимать, как ИИ может применяться в мошенничестве, и вовремя распознавать опасные сигналы. Главное, по мнению исследователя, — развивать критическое мышление и учить студентов делиться знаниями со своими семьями и сообществами, повышая уровень «ИИ-грамотности» снизу вверх.

«Когда люди начинают замечать мелкие несоответствия, — говорит Агилар, — они уже не так легко поддаются манипуляциям. Это защита, основанная на осведомлённости».