Новый подход к безопасности нейросетей
Генеральный директор корпорации Microsoft Сатья Наделла выдвинул инициативу по интеграции специализированных инструментов контроля в современные технологии искусственного интеллекта. По мнению топ-менеджера, крайне важно наделить экспертов правом оперативного вмешательства, вплоть до принудительного завершения процессов или полного отключения ИИ-модели в режиме реального времени.
Ключевые принципы ответственной разработки
Наделла сформулировал перечень обязательных требований для обеспечения безопасности в сфере разработки нейросетей, которые должны стать отраслевым стандартом:
- обеспечение прозрачности действий системы;
- регулярное проведение стресс-тестирования;
- верификация принимаемых моделью решений;
- прохождение независимого аудита;
- строгое ограничение функциональных возможностей;
- обязательное информирование о любых выявленных сбоях и инцидентах.
Кроме того, глава Microsoft подчеркнул, что любые модели — вне зависимости от того, являются они проприетарными или имеют открытые веса — должны рассматриваться как потенциальный источник внутренних рисков.
Контекст дискуссии
Данные предложения были озвучены на фоне усиливающихся дебатов о рисках, связанных с темпами эволюции ИИ. Многие представители IT-сектора и научного сообщества выражают обеспокоенность тем, что текущие протоколы защиты не поспевают за развитием технологий.
«У уполномоченных специалистов должна быть возможность приостанавливать работу модели или полностью отключать ее прямо во время выполнения задачи», — подчеркнул Наделла.
Стоит отметить, что вопрос контроля над искусственным интеллектом становится и частью геополитической повестки. В частности, ранее Дональд Трамп отмечал критическую важность удержания лидерства США в области ИИ в условиях конкурентной борьбы с Китаем.