Социальная дилемма (The Social Dilemma, 2020)
Все цитаты, стр. 13
Манипуляция третьими лицами - не взлом.
Ясно? Русские не взламывали Facebook.
Они использовали инструменты, которые Facebook создал для законных рекламодателей и пользователей, они лишь использовали их для своих гнусных целей.
Это как дистанционная война.
Одна страна манипулирует другой, не вторгаясь в ее физические границы.
Мы видим эти кадры массовой драки. Участники толкают мусорный бак...
Но дело не в том, за кого вы хотели проголосовать.
Смысл был в том, чтобы посеять хаос и раскол в обществе.
А это марш в Хантингтон-Бич...
Смысл в том, что создать две стороны, которые больше не слышат друг друга не хотят друг друга слышать и не доверяют друг другу.
Ненависть, выплеснувшаяся на улицы города, переросла в расовое насилие.
ТРОЕ УБИТЫ В ХОДЕ ПРОТЕСТОВ В ВИРДЖИНИИ
Поднял руки. На колени. А теперь на землю.
Эту систему мы хотим продавать тем, кто предложит больше денег?
Выставим демократию на продажу во времена, когда можно достучаться до любого, направить ложь на конкретное население и разжигать культурные войны?
...который больше не общается друг с другом.
Мы - народ, переставший дружить с близкими из-за того, за кого они проголосовали на прошлых выборах.
Мы - народ, изолировавший себя, чтобы смотреть только те каналы, которые говорят нам, что мы правы.
Сегодня я скажу следующее.
Трайбализм нас разрушает.
Он разваливает нашу страну.
Адекватные взрослые так себя не ведут.
Если у каждого есть право на свои факты, то нет нужды идти на компромисс или объединяться.
По сути, не нужно больше общаться.
Нам нужно общее понимание реальности.
Решение в долгосрочной перспективе - создать больше инструментов ИИ, обнаруживающих на сервисах паттерны, не похожие на поведение реальных людей.
Мы позволяем технологам обозначить это как проблему, которую они способны решить.
Люди так говорят об ИИ, как будто он знает правду.
ИИ не решит эти проблемы.
ИИ не может решить проблему фейк ньюс.
Это не Google решать, является ли что-то теорией заговора или истиной.
Они сами не знают правды.
Лучший индикатор правды для них - клик пользователя.
Если мы не договоримся о том, что правда и о том, что правда вообще существует, нам конец.
В этом заключается основная проблема - если нельзя прийти к согласию о том, что есть правда то не получится решить и остальные проблемы.
Предложим ему подписаться на клуб «Плоская Земля».
Не надо больше новостей о спорте. Ему не интересно.
Многие в Кремниевой долине придерживаются теории, что мы создаем глобальный супер-мозг, а все наши пользователи - просто взаимозаменяемые нейроны, не представляющие важности.
И это ставит людей в такое странное положение, где вы просто являетесь вычислительным элементом, который мы программируем через манипуляции поведением для служения этому гигантскому мозгу, но сами по себе вы ничего не значите.
Вам не заплатят, вас не признают, у вас нет самоопределения.
Мы будем тайно манипулировать вами, вы - вычислительный узел, вас нужно лишь запрограммировать, такова участь подобных узлов.
Рассматривать технологии как экзистенциальную угрозу - серьезное заявление и...
Вот вы думаете: «Ладно я в телефоне скроллю, кликаю, смотрю.
Где тут экзистенциальная угроза?
Ну ладно, суперкомпьютер по ту сторону экрана, направленный на мой мозг, заставил меня посмотреть еще одно видео. Где угроза-то?»
Дело не в том, что технология представляет собой экзистенциальную угрозу.
СЛУШАНИЯ СЕНАТА США ПО УБЕДИТЕЛЬНЫМ ТЕХНОЛОГИЯМ
Дело в способности технологии пробуждать самое плохое в обществе, а самое плохое в обществе - это и есть экзистенциальная угроза.
Если технологии спровоцируют... массовый хаос, возмущение, невежество, отсутствие доверия друг к другу, одиночество, отчуждение, поляризацию, очередные взломы выборов, очередной популизм, отвлекать и не позволять сосредоточиться на реальных проблемах...
...потеряет способность исцеляться и погрузится в хаос.
Это касается всех, даже если вы не пользуетесь этими продуктами.
Эти штуки стали цифровыми Франкенштейнами, изменяющими мир по своему усмотрению, будь то психическое здоровье детей, или наша политика и политический дискурс, без какой либо ответственности за перехваченную повестку дня.
Опять же, всё сводится... - Кто, по-вашему, ответственнен за это?
Я считаю, нам нужно заставить платформы отвечать за свои действия.
