Compass Investments Фонд Ethereum сообщает, что ИИ-агенты выявляют реальные

📌 Фонд Ethereum сообщает, что ИИ-агенты выявляют реальные баги, однако большая часть из них оказывается ложными сигналами | The Block

В четверг в своем блоге Фонд Ethereum сообщил, что AI-агенты эффективно находят уязвимости в сетевой инфраструктуре, однако львиная доля этих находок оказывается ложными. . Ai

В четверг в своем блоге Фонд Ethereum сообщил, что AI-агенты эффективно находят уязвимости в сетевой инфраструктуре, однако львиная доля этих находок оказывается ложными.

«Сам факт обнаружения ошибок агентами не был сюрпризом. Удивило то, насколько мало усилий потребовалось для их выявления и сколько для отделения настоящих багов от тех, что лишь казались таковыми», отметили в EF.

Группа безопасности протоколов EF использует координированные AI-агенты для проверки важнейших сетевых компонентов, включая системное ПО, криптографический код и смарт-контракты. Эти агенты нашли реальные ошибки, например «состояние паники в библиотеке gossipsub libp2p, которое можно запустить удаленно это ключевой элемент пирингового уровня, используемого клиентами консенсуса Ethereum». Проблему уже устранили и обнародовали.

Фонд подчеркнул, что AI-агенты способны быстро выявлять потенциальные угрозы, но при этом они создают дополнительную нагрузку на исследователей, которым приходится оценивать растущее число подозрительных случаев, или «кандидатов».

«Подавляющее большинство кандидатов ошибочные, дублирующиеся или не вписывающиеся в задачу. Это не дефект метода; такова его природа», заявили в EF. «Задача в том, чтобы быстро отсеять ложные срабатывания и подкрепить реальные находки неопровержимыми доказательствами». LINE_BREAF Потенциальная уязвимость считается доказанной только после того, как исследователи смогут самостоятельно воспроизвести сбой в реальном коде. Фонд также отметил, что AI-агенты могут испытывать сложности с выявлением ошибок, возникающих в ходе последовательных операций.

Иными словами, ведущие эксперты по безопасности Ethereum рассматривают ИИ как мощный инструмент для поиска, но не как «оракула» в полном смысле слова.

«Теперь время, которое раньше уходило на выдвижение и проверку гипотез, тратится на их массовую сортировку, включая создание оракула, распределение по категориям, учет известных проблем и организацию раскрытия», пояснили они. «Узкое место никуда не исчезло. Оно сместилось с поиска неисправностей на доверие к результатам, и это прогресс, потому что именно здесь нужен человеческий разум».

Блог, вышедший в четверг, появился после недавней реорганизации EF, в ходе которой сформировалась новая операционная структура, а фонд сократил 20 % штата.