Решение об отключении нейросетей

Разработчик ИИ-решений Anthropic принял решение временно ограничить доступ к своим передовым моделям Fable 5 и Mythos 5. Данная мера была предпринята спустя всего несколько дней после публичного запуска сервисов в ответ на прямое требование правительства США.

В официальном уведомлении компания подчеркнула, что была вынуждена пойти на этот шаг для обеспечения полного соответствия правительственным директивам, несмотря на отсутствие подробных разъяснений по поводу конкретных претензий со стороны властей.


Опасения вокруг уязвимостей системы

По имеющимся у компании данным, представители властных структур выразили обеспокоенность возможными методами обхода защиты новых нейросетей. В Anthropic прокомментировали ситуацию следующим образом:

«Насколько нам известно, правительство полагает, что существует способ обхода или взлома системы Fable 5. Мы провели анализ продемонстрированной методики и выявили лишь незначительный ряд уязвимостей, которые, по нашей оценке, не являются уникальными и обнаруживаются большинством доступных на рынке ИИ-моделей без применения сложных техник обхода защиты».

Высокие показатели мощности и вопросы безопасности

Стоит отметить, что еще на этапе подготовки к релизу Fable 5 руководство Anthropic делало акцент на беспрецедентном уровне интеллектуальных способностей системы. Разработчики намеренно ограничивали круг тестировщиков, опасаясь, что высокая автономность модели в вопросах анализа компьютерных систем может нести риски при злонамеренном использовании.

Несмотря на то что многие эксперты скептически воспринимали заявления о «пугающей мощи» нейросети, называя это маркетинговой стратегией, представители компании настаивали, что функционал Fable значительно превосходит все предыдущие разработки организации.


О компании

Anthropic является одной из ведущих американских компаний в секторе искусственного интеллекта, получившей широкую известность благодаря семейству моделей Claude. Организация была основана в 2021 году бывшими руководителями OpenAI Дарио и Даниэлой Амодеи.