Информация и контент, 
которым можно доверять

В Google мы стремимся найти баланс между количеством предоставляемой информации и безопасностью пользователей и общества в целом. Мы со всей серьезностью подходим к этому вопросу. Наши цели – обеспечивать достоверность материалов и других сведений, защищать пользователей от угроз, а также вместе с экспертами и организациями повышать безопасность интернета.

Защита от угроз в интернете Надежная информация Привлечение партнеров для повышения безопасности онлайн

Защита от угроз в интернете

Наши продвинутые средства защиты предотвращают появление опасного и противозаконного контента, находят его и принимают меры, чтобы обеспечивать безопасность пользователей и общества в целом.

Предотвращение

Предотвращение злоупотреблений

Чтобы защищать пользователей от недопустимого контента, мы используем средства безопасности на основе ИИ. Например, каждую минуту Gmail автоматически блокирует около 10 миллионов писем со спамом, а в Поиске при автозаполнении не показываются потенциально опасные подсказки. YouTube эффективно удаляет большое количество контента благодаря системам автоматического обнаружения. Во втором квартале 2023 года 93 % удаленных видео, которые нарушали правила, были выявлены автоматически. Мы также заботимся о том, чтобы с помощью наших инструментов генеративного ИИ не создавался опасный контент, поэтому оснащаем их механизмами защиты.

Для всех продуктов Google действуют отдельные правила. В них мы описываем, какой контент и поведение приемлемы, а какие – нет. Эти правила регулярно обновляются с учетом возникающих угроз. Наконец, разрабатывая и тестируя приложения, в которых используется ИИ, мы руководствуемся нашими принципами в отношении искусственного интеллекта.

Выявление

Обнаружение опасного контента

Злоумышленники совершенствуют свои методы, так что и мы должны более тщательно отслеживать опасный контент в продуктах. В этом нам помогает искусственный интеллект. Классификаторы на основе ИИ позволяют быстро сообщать о таком контенте, чтобы наши системы удалили его или передали специалисту. В 2022 году, используя автоматические системы, мы обнаружили и заблокировали более 51,2 миллиона объявлений, которые содержали дискриминационные высказывания, призывы к насилию и утверждения, опасные для здоровья. Мы предполагаем, что большие языковые модели (прорывная ИИ-технология) помогут нам справиться с новыми рисками и существенно сократить время при поиске или анализе опасных материалов.

Google и YouTube также сотрудничают с сотнями экспертных организаций по всему миру – Наблюдателями – которые ищут опасный, по их мнению, контент и сообщают нам о нем.

Наши действия

Адекватное реагирование

Мы оцениваем потенциально неприемлемый контент, на который поступают жалобы, и принимаем меры в его отношении с помощью сотрудников и технологий искусственного интеллекта. Если контент нарушает наши правила, мы можем ограничить к нему доступ, удалить его, отключить монетизацию или применить к аккаунту меры, снижающие риск злоупотреблений в будущем.

В 2022 году в Google Картах было удалено более 300 миллионов недостоверных материалов и 115 миллионов отзывов, нарушающих правила, а также предотвращено 20 миллионов попыток создать поддельный профиль компании. Во втором квартале 2023 года YouTube удалил более 14 миллионов каналов и 7 миллионов видео, нарушающих правила сообщества.

Следить за соблюдением правил, модерировать контент и оценивать материалы, на которые поступают жалобы, нам помогают около 20 тысяч специалистов. Они подробно рассматривают каждый случай, чтобы не удалять контент по ошибке.

Если автор или издатель не согласен с нашим решением, он может оспорить его.

Надежная информация

Чтобы обеспечивать достоверность материалов и другой информации на наших платформах, мы предоставляем надежные данные и лучшие в своем классе инструменты, которые позволяют вам управлять оценкой качества контента.

Управление информацией

Умные алгоритмы

Наши постоянно обновляющиеся алгоритмы лежат в основе всего, что касается Google: от результатов поиска до таких продуктов, как Google Карты. Чтобы показывать полезные результаты, эти алгоритмы подбирают контент с помощью продвинутых больших языковых моделей, учитывая ключевые слова, адреса сайтов, актуальность материалов и другие сигналы. Например, YouTube активно продвигает в результатах поиска, рекомендациях и информационных панелях контент высокого качества из авторитетных источников. Это помогает пользователям своевременно находить достоверные сведения, в том числе новости.

Инструменты для проверки контента

Мы создали ряд функций, которые помогут вам понимать и оценивать материалы, обнаруженные нашими алгоритмами и инструментами генеративного искусственного интеллекта. Так у вас будет больше информации о контенте, который вы встречаете в интернете.

Центр управления рекламой

В Центре управления рекламой легко настроить показ объявлений так, чтобы вы видели больше любимых брендов и меньше тех, которые вам не нравятся.
Проверка фактов в Поиске и Новостях

Google ежедневно показывает 6 миллионов независимых проверок фактов. С продвинутыми инструментами, которые определяют достоверность изображений и результатов поиска, вы лучше защищены от ложной информации в интернете.
Функция "Об этом результате"

С функцией "Об этом результате" можно узнавать подробности о сайте прежде, чем вы его посетите. К такой информации относится время первой индексации сайта, его описание и отзывы пользователей о ресурсе и теме.
Водяные знаки SynthID

SynthID – инструмент, который позволяет добавлять в контент водяные знаки и обнаруживать материалы, созданные искусственным интеллектом. Это многообещающее решение на раннем этапе разработки. Оно помогает бороться с насущной проблемой – ложной информацией в интернете.

Подробнее
Функция "Об этом изображении"

Функция "Об этом изображении" позволяет оценивать достоверность и контекст изображений, которые вы видите в интернете. Например, с ее помощью можно узнать, когда материалы были впервые обнаружены Google и как другие источники их используют или описывают.

Ответственное управление контентом на YouTube

Команда YouTube делает все, чтобы сообщество в лице зрителей, авторов и рекламодателей могло доверять нашей платформе.
Подробнее о нашем подходе…

Удаляем

Мы удаляем контент, который нарушает наши правила, с помощью специалистов и автоматических систем.
Продвигаем

Мы продвигаем новости и контент из авторитетных источников и предоставляем зрителям контекст.
Ограничиваем

Мы ответственно боремся с распространением спорных материалов и опасной ложной информации.
Вознаграждаем

Мы поощряем добросовестных авторов, участвующих в Партнерской программе YouTube. Они получают доход не только от рекламы, но и из других источников. За трехлетний период до июня 2022 года мы выплатили авторам, исполнителям и медиакомпаниям более 50 миллиардов долларов США.

Привлечение партнеров для повышения безопасности онлайн

Мы активно сотрудничаем с экспертами и организациями, а также делимся с ними информацией, ресурсами и технологиями.

Обмен информацией

Коммуникация для защиты пользователей

Мы сотрудничаем с общественными, научными и государственными экспертами, чтобы бороться с ложной информацией и эксплуатацией детей в интернете, поддерживать безопасность рекламы, честные выборы и ответственное использование ИИ в модерации контента, а также решать другие глобальные проблемы. Чтобы специалисты могли ещё глубже изучать эти области, мы публикуем результаты исследований и наборы данных.

Улучшая YouTube и его правила, мы регулярно консультируемся с нашей независимой экспертной комиссией по вопросам детей и семьи. С ней мы также работаем над принципами в отношении контента для детей и подростков и обновлениями, которые помогают защищать психическое и физическое здоровье подростков.

Обмен сигналами

Совместная борьба с противозаконным контентом

Мы с партнерами выявляем признаки недопустимого контента и делимся ими друг с другом. Это позволяет эффективно модерировать материалы в рамках более крупной экосистемы. Каждый год мы обмениваемся миллионами хешей контента, представляющего несовершеннолетних в сексуальном контексте, с Национальным центром США по проблемам пропавших без вести и подвергающихся эксплуатации детей. Мы также участвуем в проекте Lantern, который позволяет технологическим компаниям безопасно и ответственно обмениваться сигналами. Кроме того, YouTube входит в число основателей организации Global Internet Forum to Counter Terrorism (GIFCT). В ее рамках государственные и общественные представители, ИТ-специалисты и ученые вместе борются с терроризмом и насильственным экстремизмом в интернете.

Обмен ресурсами

Поддержка защитных организаций

Мы поддерживаем организации во всем мире, которые развивают безопасность в интернете и обучают медиаграмотности, предлагая для них такие программы, как Be Internet Awesome, Hit Pause и Google News Lab. Google и YouTube также выделили грант в размере 13,2 миллиона долларов США Международной сети по проверке фактов (IFCN), в которую входят 135 организаций. В общей сложности мы обучили навыкам проверки цифровой информации более 550 тысяч журналистов, а онлайн-курсы прошли 2,6 миллиона специалистов.

Набор инструментов для защиты детей

Мы предоставляем таким партнерам, как Adobe и Reddit, доступ к инструментам Content Safety API и CSAI Match. Благодаря этому компании могут передавать на проверку специалистам в первую очередь изображения несовершеннолетних в сексуальном контексте. Наши инструменты помогают партнерам обрабатывать более четырех миллиардов фрагментов контента ежемесячно и тем самым эффективнее бороться с сексуальным насилием над детьми в интернете.

Подробнее
API Безопасного просмотра

С помощью API Безопасного просмотра клиентские приложения могут сверять URL с нашей постоянно обновляемой базой небезопасных веб-ресурсов. Этот инструмент ежедневно защищает 5 миллиардов устройств, предупреждая пользователей о сайтах, на которых размещено вредоносное и нежелательное ПО.

Подробнее
API для определения качества информации

Наши API для определения качества информации позволяют интернет-изданиям и платформам защищать пользователей от токсичного и опасного контента. Perspective API обрабатывает два миллиарда комментариев в сутки, помогая более 850 партнерам ежедневно бороться с токсичными высказываниями. The New York Times, Reddit, The Wall Street Journal и другие организации пользуются этим инструментом для работы с оскорбительными комментариями на своих сайтах.
Vision API

Vision API позволяет находить и удалять опасные материалы. С его помощью разработчики могут интегрировать в приложение такие функции, как создание меток для изображений, оптическое распознавание символов (OCR) и добавление тегов к контенту для взрослых. Даже с ограниченным количеством данных для обучения Vision API может успешно классифицировать 80 % изображений.

GSEC В ДУБЛИНЕ

Ответственное использование контента

Наша команда Google Safety Engineering Center в Дублине борется с противозаконным и опасным контентом. Эти эксперты ищут новые решения и делятся результатами своей работы с сотрудниками регламентирующих и законодательных органов, а также исследователями. Мы создали сеть Google Safety Engineering Center, чтобы наши специалисты могли в комфортных условиях разрабатывать инновационные решения и делать интернет безопаснее.

Безопасность в интернете как основа

Сейчас для нас как никогда важно предоставлять достоверные материалы и информацию. Чтобы решать меняющиеся проблемы модерации контента, мы продолжаем разрабатывать и улучшать правила, продукты и процессы, позволяющие всем спокойнее и безопаснее пользоваться интернетом.