Распространение контента, созданного с помощью искусственного интеллекта, в социальных сетях ускоряется, достигая уровней реалистичности, которые делают различение между тем, что является настоящим, и тем, что является фальшивым, крайне сложным. Тесты, проведенные газетой "Нью-Йорк Таймс", показали, что инструменты для обнаружения ИИ, несмотря на их развитие, не всегда предоставляют точные результаты, подтверждающие их полную надежность перед этой серьезной проблемой.
Более чем дюжина инструментов, доступных в настоящее время в Интернете, утверждают, что могут различать настоящий контент и контент, созданный автоматически. Эти инструменты полагаются на поиск скрытых водяных знаков, структурных ошибок и других цифровых улик для различения различных типов контента. Однако исследователи обнаружили, что эти инструменты не были достаточно точными, чтобы обеспечить пользователям полное доверие к их результатам.
Детали события
Тесты показали, что, хотя некоторые инструменты смогли обнаружить определенный контент ИИ, они могут лишь подтвердить подозрения. Таким образом, проверяющие факты и пользователи Интернета сталкиваются с новыми вызовами, связанными с фальшивым контентом, который недавно заполонил социальные сети.
В этом контексте профессор Майк Перкинс из британского университета заявил, что инструменты для обнаружения текстов не являются абсолютно надежными, указывая на то, что нет инструмента, способного точно различать на 100% тексты, изображения или видеоролики, созданные с помощью ИИ. Он подтвердил, что развитие инструментов ИИ может привести к трудностям в отслеживании инструментов обнаружения, что предвещает "гонку вооружений" между технологиями, используемыми в производстве, и технологиями, используемыми в обнаружении.
Контекст и фон
Ответ на использование инструментов для обнаружения подделок изменился, так как теперь акцент делается не только на изображениях, но и на видеороликах и звуке. Многие банки и страховые компании принимают эти инструменты для выявления мошенничества, в то время как учителя и исследователи в области Интернета используют их для проверки контента изображений и видеороликов.
Неожиданный арест свергнутого венесуэльского президента Николаса Мадуро в январе прошлого года подчеркнул необходимость у специалистов в эффективных инструментах для обнаружения контента, созданного с помощью ИИ. Этот тип контента в настоящее время широко распространен и может стать разрушительным инструментом манипуляции при его распространении через СМИ.
Последствия и влияние
Парадоксально, что инструменты, разработанные для мониторинга контента, могут показаться эффективными решениями, однако на них трудно полагаться абсолютно для вынесения окончательных суждений. В то время как традиционные методы, такие как проверка и верификация оригинальных источников и информации, остаются необходимыми и основополагающими.
Тесты показали, что инструменты эффективны в обнаружении простых подделок изображений, однако они сталкиваются с большими трудностями с более сложными изображениями. Это указывает на то, что полагаться только на инструменты ИИ больше недостаточно, их необходимо дополнить новыми технологиями, основанными на обработке данных и информации.
Влияние на арабский регион
В условиях информационной насыщенности и быстротечности новостей в арабском мире проверка достоверности информации среди огромного потока данных становится необходимостью. Технологический прогресс в инструментах для обнаружения контента, созданного с помощью ИИ, может усилить усилия проверяющих факты и поставщиков надежной информации в арабском мире.
Рост опасений по поводу распространения фальшивых новостей и аналитической обработки способствует формированию более сознательного общества получателей, поэтому стимулирование усилий по разработке более эффективных инструментов обнаружения становится актуальным. Важно, чтобы эти методы были широко применимы, что обеспечит большую достоверность предоставляемой информации.