Microsoft и OpenAI проводят расследование возможного взлома системы OpenAI, который, как предполагается, связан с группой, имеющей отношение к китайскому стартапу в области искусственного интеллекта DeepSeek.
Оглавление
Подозрительная активность и начало расследования
Согласно данным Bloomberg, расследование началось после обнаружения подозрительной активности, связанной с извлечением данных через API OpenAI в конце 2024 года. Это вызвало обеспокоенность в связи с растущей конкуренцией в сфере ИИ на международной арене.
Microsoft, являющаяся крупнейшим инвестором OpenAI, первой выявила масштабное извлечение данных и сообщила об этом создателям ChatGPT. Источники предполагают, что действия группы могли нарушить условия использования OpenAI или что злоумышленники воспользовались уязвимостями для обхода ограничений на сбор данных.
Успехи DeepSeek и выпуск модели R-1
DeepSeek быстро завоевала популярность в конкурентной среде ИИ, особенно после выпуска своей новой модели R-1 20 января. Эта модель, позиционируемая как конкурент ChatGPT, была разработана с гораздо меньшими затратами, что вызвало значительный резонанс в технологической индустрии.
Выпуск R-1 привел к резкому падению акций технологических компаний и компаний, работающих в сфере ИИ, что за одну неделю стоило американским рынкам миллиардов долларов.
Обвинения в использовании методов «дистилляции»
Дэвид Сакс, недавно назначенный «спецпредставителем по криптовалютам и ИИ» в Белом доме, заявил, что DeepSeek могла использовать сомнительные методы для достижения своих результатов. В интервью Fox News он отметил, что есть доказательства использования DeepSeek метода «дистилляции» для обучения своих моделей на основе данных, полученных от систем OpenAI.
«Существуют веские доказательства того, что DeepSeek извлекла знания из моделей OpenAI, и я сомневаюсь, что OpenAI довольна этим», — сказал Сакс.
Метод дистилляции предполагает обучение одной системы ИИ с использованием данных, созданных другой системой. Это может позволить конкурентам разрабатывать аналогичные функции. Однако применение этого метода без должного разрешения вызывает споры о этичности и защите интеллектуальной собственности.
Реакция OpenAI и геополитические риски
OpenAI отказалась комментировать конкретные обвинения в адрес DeepSeek, но признала общие риски, связанные с дистилляцией моделей, особенно со стороны китайских компаний.
Проверь свои знания в наших бесплатных тестах по ИИ! Пройди тест и узнай, насколько хорошо ты разбираешься в технологиях искусственного интеллекта!
«Мы знаем, что компании из КНР и другие постоянно пытаются извлекать данные из моделей ведущих американских компаний в сфере ИИ», — заявил представитель OpenAI в интервью Bloomberg.
Обеспокоенность национальной безопасности
Растущие трения вокруг инноваций в ИИ затрагивают и вопросы национальной безопасности. CNBC сообщил, что ВМС США запретили своим сотрудникам использовать продукты DeepSeek, опасаясь, что китайское правительство может использовать платформу для доступа к конфиденциальной информации.
В электронном письме от 24 января ВМС предупредили персонал об использовании ИИ DeepSeek «в любом виде» из-за «потенциальных проблем с безопасностью и этикой, связанных с происхождением и использованием модели».
Критики также обратили внимание на политику конфиденциальности DeepSeek, которая позволяет собирать такие данные, как IP-адреса, информация об устройствах и даже шаблоны нажатия клавиш. Некоторые эксперты считают такой объем сбора данных чрезмерным.
Атаки на системы DeepSeek
На этой неделе DeepSeek сообщила о «крупномасштабных злонамеренных атаках» на свои системы. На сайте компании появилось уведомление о временном ограничении регистрации новых пользователей.
Конкуренция между США и Китаем в сфере ИИ
Растущая конкуренция между США и Китаем в области ИИ подчеркивает более широкие проблемы, связанные с технологическим владением, этическим управлением и национальной безопасностью.
Эксперты предупреждают, что по мере развития ИИ и его интеграции в глобальную экономику и стратегическое планирование споры об использовании данных и интеллектуальной собственности будут только усиливаться. Обвинения в адрес DeepSeek усиливают опасения по поводу быстрого развития Китая в этой сфере и его возможных попыток обойти меры безопасности, установленные США, с помощью обратной инженерии и других методов.
Последствия для будущего ИИ
Пока OpenAI и Microsoft продолжают расследование предполагаемого неправомерного использования платформы OpenAI, компании и правительства внимательно следят за развитием событий. Этот случай может стать прецедентом для того, как разработчики ИИ будут контролировать использование своих моделей и обеспечивать соблюдение условий обслуживания.
На данный момент реакция как американских, так и китайских сторон показывает, что инновации в области ИИ превратились не только в гонку за технологическое превосходство, но и в сложный геополитический конфликт, который формирует динамику власти в XXI веке.
