Google ужесточит модерацию ИИ-контента в Android-приложениях с 2024 года

Google устaнoвит нoвыe трeбoвaния к мoдeрaции кoнтeнтa исполнение) прилoжeний нa Android, испoльзующиx ИИ. С нaчaлa слeдующeгo гoдa рaзрaбoтчики тaкиx прилoжeний дoлжны насадить функцию для жалоб для оскорбительный или спорный информация непосредственно в пользовательском интерфейсе. Сии изменения затронут не в какой-нибудь месяц чат-боты на основе ИИ, хотя и приложения, создающие визуальный и аудио контент. Деятельность направлена на борьбу с недопустимым контентом, в книга числе с дипфейками и дезинформацией.

Google уточнила, будто новая политика будет употребляться не ко всем приложениям с ИИ. Возлюбленная коснется чат-ботов, приложений на создания изображений, голосового и видеоконтента. Приложения, которые токмо хранят сгенерированный ИИ-контент или — или используют ИИ для обобщения текстовых материалов, останутся выше зоны действия новых правил.

Google акцентирует подчеркнуть что на определенных категориях контента, требующих строжайшей модерации. В оный список входят фальшивые видео alias изображения, созданные без согласия изображенных в них людей, а также календарь реальных людей, применяемые в мошеннических целях.

К тому же того, компания будет особенно наблюдательно следить за распространением ложной alias вводящей в заблуждение информации, связанной с выборами. Невыгодный менее строгий контроль установлен и с целью приложений, в которых генеративный ИИ используется особенно для сексуального удовлетворения, а как и создания вредоносного кода.

В своем заявлении Google подчеркнула, который генеративный ИИ является бегом развивающейся категорией приложений, какими судьбами дает основания полагать, что-то компания может пересмотреть свою политику в области ИИ за мере дальнейшего развития технологии. Выключая новых правил в отношении контента, генерируемого ИИ, Google в свой черед расширила политику разрешений держи использование фото- и видеоматериалов в Play Store, ограничивая путь Android-приложений к данным.

«Фотоматериалы и видеозаписи для устройствах пользователей являются их личной и конфиденциальной информацией, требующей максимально ответственного взаимоотношения, — подчеркнула компания в своем заявлении. — Такие причина создают потенциальную уязвимость во (избежание пользователей в случае утечек либо других форм эксплуатации. Усечение доступа к ним не точию повышает уровень безопасности пользователей, однако и снижает нагрузку на разработчиков в части обработки чувствительной информации».

Категория: Телефоны