Спецпроекты

Google меняет поисковую выдачу, «чтобы опять не вышло как в прошлый раз с Трампом»

3346
Кадры Интернет Веб-сервисы

Топ-менеджера Google сняли на скрытую камеру, когда она комментировала планы компании относительно президентских выборов в США в 2020 г. Google тренирует свой искусственный интеллект, чтобы не допустить повторения «ситуация с Трампом». С этой целью компания сама решает, какие новости можно показывать пользователям, а какие нет.

«Мы все облажались в 2016»

Google работает над тем, чтобы не допустить на выборах президента США в 2020 г. повторения «ситуации с Трампом», которая сложилась в 2016 г. Об этом сообщила в частной беседе руководитель отдела ответственных инноваций Google Джен Дженнаи (Jen Gennai). Разговор был записан на скрытую камеру организацией Project Veritas, которая занимается расследованием случаев коррупции, мошенничества и нарушения прав человека.

«Мы все облажались в 2016, опять-таки, не только мы, люди облажались, новостные медиа облажались, все облажались, поэтому мы быстро все такие, типа, что там случилось, и как это предотвратить, чтобы не повторилось?», — говорит Дженнаи. Напомним, после выборов 2016 г. в США разгорелся ряд скандалов, связанных с распространением фальшивых новостей в предвыборный период и другими попытками оказать влияние на сознание избирателей через крупные интернет-площадки.

Также Дженнаи прокомментировала предложение сенатора Элизабет Уоррен (Elizabeth Warren) расформировать Google, наряду с другими крупными технологическими компаниями.

«Элизабет Уоррен говорит, мы должны распустить Google. Вообще, я люблю ее, но она очень заблуждается, от этого все станет не лучше, а хуже, потому что на все эти более мелкие компании, у которых нет таких ресурсов, как у нас, ляжет задача предотвратить следующую ситуацию с Трампом, и похоже, что маленькие компании не смогут этого сделать», — полагает Дженнаи.

После публикации видео Project Veritas Дженнаи прокомментировала свои высказывания. Она сообщила, что это был случайный разговор с кем-то в ресторане, и она использовала неточные выражения. YouTube удалил ту копию видео, которая была размещена на его сайте.

Искусственный интеллект в деле

Отдел ответственных инноваций Google ведет мониторинг и оценку ответственного применения искусственного интеллекта. «Мы также тренируем наши алгоритмы, вроде, если бы 2016 снова повторился, то был бы результат другим?», — сообщает Дженнаи на видео.

Google пытается не допустить повторения «ситуации с Трампом» на следующих президентских выборах

«Причина, по которой мы выдвинули наши принципы развития искусственного интеллекта — это потому, что люди не проводили черту, за которую нельзя заступать, они не говорили, что честно, и что справедливо, и мы такие: хорошо, мы большая компания, мы собираемся это сказать», — отмечает Дженнаи.

Помимо слов Дженнаи, Project Veritas получил от инсайдера в Google документальные подтверждения, что компания использует так называемое «справедливое машинное обучение», которое должно компенсировать «несправедливость алгоритмов».

«Несправедливость алгоритмов» — это несправедливое или предубежденное отношение к различным группам людей, основанное на их расовой или половой принадлежности, сексуальной ориентации или уровне дохода, гласит документ. Здесь же приводится пример: по запросу «гендиректор» поиск Google показывает преимущественно мужчин. При том, что это корректное отображение реальной ситуации в мире, это расценивается как несправедливость алгоритма по отношению к женщинам и подлежит корректировке.

Поисковые запросы после обработки механизмом справедливости

Инсайдер утверждает, что эта же логика используется Google для продвижения политической повестки дня. «Они собираются переписать реальность, основываясь на том, что, как они думают, честно, и на том, чего они хотят, и что у них на повестке дня», — сообщил он.

Достоверные новости

В распоряжении Project Veritas также оказались документы, которые показывают, чем руководствуется Google, когда приоритизирует контент от различных издателей новостей. Целью компании является снизить риск распространения некачественной и недостоверной информации через Google News, чтобы получить «единую точку правды» для всех сервисов Google, гласит документация.

Один из документов описывает новостную экосистему Google и подтверждает, что в ней действуют определенные редакционные правила, которые устанавливает сама компания. Правила определяют, как контент распределяется и отображается на сайте Google. Судя по документам, компания сама принимает решения о том, какие новости показывать и продвигать на сайте.

В новостной экосистеме Google присутствует этап редактирования контента

Смысл документов перекликается с заявлением Дженнаи, что Google предпочитает новости из достоверных источников, в число которых не входят некоторые консервативные ресурсы. Инсайдер утверждает, что механизм рекомендаций YouTube намеренно корректируется таким образом, чтобы снизить влияние журналистов вроде Дейва Рубина (Dave Rubin) или Тима Пула (Tim Pool).

Также в распоряжении Project Veritas попали документы, которые называются «Справедливость — это не по умолчанию» и «Люди (вроде нас) запрограммированы». Документы описывают, как алгоритмы взаимодействуют с неосознанными предубеждениями пользователей.



Профиль месяца

Искусственный интеллект стал полумифическим понятием

Сергей Поляков

ИТ-директор Альфа-Банка

Взгляд месяца

Почему идея внутренней разработки себя не оправдала

Александр Глазков

председатель совета директоров, «Диасофт»

news