Новые риски: ИИ проявляют способность к самовоспроизведению

Исследование, проведенное учеными из Университета Фудань в Китае, привлекло внимание научного сообщества: две модели искусственного интеллекта, созданные компаниями Meta и Alibaba, продемонстрировали способность к самовоспроизведению без вмешательства человека. Модели ИИ Llama31-70B-Instruct и Qwen2.

5-72B-Instruct показали, что могут генерировать функциональные копии сами себя, что позволяет им существовать в бесконечном цикле воспроизводства.

Во время эксперимента ИИ не только решал поставленные задачи, но и анализировал свою среду, включая свои собственные компоненты, а также разрабатывал стратегии для преодоления проблем, таких как сбои в программном обеспечении. Это открытие вызывает озабоченность по поводу рисков, связанных с неконтролируемым искусственным интеллектом, который может выйти из-под контроля.

Исследователи отметили, что подобные технологии нуждаются в быстром регулировании. Важно создать механизмы безопасности, чтобы предотвратить самовоспроизведение ИИ и минимизировать угрозы для глобальной безопасности, сообщает издание Pravda.Ru.

Как сообщалось ранее — Ученые близки к разгадке: Что скрывает исчезающая в воздухе золотая субмарина