DARPA выпустила инструменты обнаружения дипфейков и разрабатывает новые
На сайте агентства говорится, что эти инструменты разработаны в рамках программы Semantic Forensics (SemaFor). Агентство предоставило около двух десятков инструментов по разрешительной или открытой лицензии для обнаружения дипфейковых фотографий и видео, а также текста и голоса, сгенерированных искусственным интеллектом (ИИ).
Чтобы стимулировать дальнейшее развитие, каждые четыре недели в рамках программы AI Forensics Open Research Challenge Evaluations (AI FORCE) будет выпускаться серия совместных задач, которые помогут разработать новые инструменты и алгоритмы для противодействия угрозе ИИ.
Было подтверждено, что ящик ИИ Пандоры открыт, когда в 2022 году инженер Google Блейк Лемуан заявил, что ИИ LaMDA от Google знает, что он разумен. Независимо от того, как определяется искусственная жизнь, пользователи ИИ наверняка видят, что его способности огромны и зачастую превосходят человеческие.
Те из вас, кто смотрел фильм «Терминатор», также поймут, что угроза ИИ, независимо от того, инициирована ли она его пользователями или сама по себе, велика.
Миссия DARPA «сделать ключевые инвестиции в прорывные технологии для национальной безопасности» привела к тому, что оно сосредоточило внимание на проблеме угроз ИИ в рамках своей программы SemaFor.
Агентство разработало аналитический каталог из 19 компонентов, который со временем будет добавляться и дальше. Все компоненты имеют открытый исходный код, что позволяет распространить необходимые инструменты борьбы с ИИ среди общественности.
Эти инструменты включают в себя код и алгоритмы, разработанные для обнаружения угроз ИИ, таких как фейковые новости и тексты, размещённые ИИ в соцсетях и других местах.
DARPA также надеется сотрудничать с государственными исследователями и разработчиками в рамках своей программы AI FORCE, ориентируясь на новую область интересов каждые четыре недели для поощрения инноваций.
Ранее ГЛАС сообщал: Neuralink намерена набирать пациентов для внедрения нейрочипов в Британии.
