Компас Инвестиций

– Благодаря тому, что искусственный интеллект развивается с бешеной скоростью, мошенники получили доступ к инструментам, которые могут помочь им осуществить большое количество весьма изощренных атак, предупреждает соучредитель компании Quantstamp, специализирующейся на безопасности web3.

В беседе с Cointelegraph на Korea Blockchain Week Ричард Ма из Quantstamp пояснил, что хотя атаки с использованием социальной инженерии существуют уже давно, искусственный интеллект сделал хакеров “более убедительными” и повысил процент успешных атак.

В качестве иллюстрации того, как выглядят атаки нового поколения с использованием искусственного интеллекта, Ма вспомнил случай с клиентом Quantstamp, когда злоумышленник выдал себя за технического директора компании-цели.

Он начал рассылать электронные письма другим инженерам компании и сказал: “Это чрезвычайная ситуация.

Похоже, что в последнее время растет число мошенничеств, нацеленных на конкретных людей, а не просто на несколько человек. …… Использование ИИ и ChatGPT означает, что мошенники могут быстро написать код, и новая технология будет более выгодной для злоумышленников, пока не будет создано программное обеспечение для противодействия им”.

По мнению Ма, эти дополнительные шаги усложняют атаки и повышают вероятность того, что кто-то передаст конфиденциальную информацию.

До появления искусственного интеллекта [мошенники] могли просто попросить подарочную карту или заплатить в биткойнах, потому что это было срочно. Теперь они предпринимают больше шагов в разговоре, чтобы доказать свою легитимность”.

В конечном итоге, по мнению Ма, наиболее серьезной угрозой, которую представляет собой развитый искусственный интеллект, является масштаб, в котором могут осуществляться такие атаки.

Используя автоматизированные системы искусственного интеллекта, злоумышленники могут проводить атаки с применением социальной инженерии и другие сложные мошеннические действия против тысяч различных организаций при минимальном участии человека.

‘Как влияют на рынок ИИ-чаты и ChatGPT-мошенничество?’

‘Криптовалюты имеют ряд баз данных со всеми контактными данными ключевых игроков каждого проекта. Получив к ним доступ, хакеры могут создать искусственный интеллект, отправляющий сообщения этим лицам различными способами”.

“Научить целую компанию не отвечать на такие сообщения довольно сложно”.

Хотя масштабы и сложность мошенничества с использованием искусственного интеллекта могут показаться пугающими, Ма предложил несколько простых советов для частных лиц и организаций, желающих защитить себя.

Самое главное средство защиты – не отправлять конфиденциальную информацию по электронной почте или в текстовых сообщениях. По мнению Ма, организациям следует перенести передачу всех конфиденциальных данных в Slack или другие внутренние каналы.

‘Как правило, следует придерживаться внутренних каналов связи и все перепроверять’.

Наконец, Ма считает, что компаниям следует инвестировать в антифишинговое программное обеспечение, которое фильтрует автоматические письма от ботов и искусственного интеллекта. По его словам, компания Quantstamp использует антифишинговое ПО от поставщика услуг безопасности электронной почты IronScales.

Эта гонка вооружений только началась, и в будущем будет еще сложнее отличить человека от убедительного искусственного интеллекта”.