Производитель ChatGPT разработала план предотвращения использования его инструментов для распространения ложной информации о выборах в более чем 50 странах, запланированные на этот год.
Согласно AP, компания OpenAI заявила, что начиная с 2024 года, компания будет внедрять цифровые водяные знаки на изображения, созданные с использованием генератора изображений DALL-E. Это нововведение позволит навсегда помечать контент информацией о его происхождении, что облегчит определение, создан ли контент с использованием ИИ.
Меры предосторожности, изложенные в стартапе в области искусственного интеллекта из Сан-Франциско в своем блоге на этой неделе, включают в себя сочетание уже существующих политик и новых инициатив по предотвращению злоупотребления его чрезвычайно популярными инструментами генеративного ИИ. Они могут создавать новый текст и изображения за считанные секунды, но также могут быть использованы в качестве оружия для создания вводящих в заблуждение сообщений или убедительных фальшивых фотографий.
Компания заявила, что запретит людям использовать свою технологию для создания чат-ботов, имитирующих реальных кандидатов или правительств, искажающих процессы голосования или отговаривающих людей от участия в голосовании. Она также временно ограничит создание приложений для политических кампаний или лоббирования до проведения дополнительных исследований эффективности своей технологии.
Более трети штатов США приняли или предложили законопроекты для противодействия дипфейкам в политических кампаниях в связи с затруднениями на федеральном уровне.
“Генеральный директор OpenAI Сэм Альтман заявил, что даже при наличии всех мер безопасности его компании, его душа неспокойна.”- пишет AP.
