Социальная дилемма (The Social Dilemma, 2020)
Все цитаты, стр. 13
Эту систему мы хотим продавать тем, кто предложит больше денег?
Выставим демократию на продажу во времена, когда можно достучаться до любого, направить ложь на конкретное население и разжигать культурные войны?
...который больше не общается друг с другом.
Мы - народ, переставший дружить с близкими из-за того, за кого они проголосовали на прошлых выборах.
Мы - народ, изолировавший себя, чтобы смотреть только те каналы, которые говорят нам, что мы правы.
Сегодня я скажу следующее.
Трайбализм нас разрушает.
Он разваливает нашу страну.
Адекватные взрослые так себя не ведут.
Если у каждого есть право на свои факты, то нет нужды идти на компромисс или объединяться.
По сути, не нужно больше общаться.
Нам нужно общее понимание реальности.
Решение в долгосрочной перспективе - создать больше инструментов ИИ, обнаруживающих на сервисах паттерны, не похожие на поведение реальных людей.
Мы позволяем технологам обозначить это как проблему, которую они способны решить.
Люди так говорят об ИИ, как будто он знает правду.
ИИ не решит эти проблемы.
ИИ не может решить проблему фейк ньюс.
Это не Google решать, является ли что-то теорией заговора или истиной.
Они сами не знают правды.
Лучший индикатор правды для них - клик пользователя.
Если мы не договоримся о том, что правда и о том, что правда вообще существует, нам конец.
В этом заключается основная проблема - если нельзя прийти к согласию о том, что есть правда то не получится решить и остальные проблемы.
Предложим ему подписаться на клуб «Плоская Земля».
Не надо больше новостей о спорте. Ему не интересно.
Многие в Кремниевой долине придерживаются теории, что мы создаем глобальный супер-мозг, а все наши пользователи - просто взаимозаменяемые нейроны, не представляющие важности.
И это ставит людей в такое странное положение, где вы просто являетесь вычислительным элементом, который мы программируем через манипуляции поведением для служения этому гигантскому мозгу, но сами по себе вы ничего не значите.
Вам не заплатят, вас не признают, у вас нет самоопределения.
Мы будем тайно манипулировать вами, вы - вычислительный узел, вас нужно лишь запрограммировать, такова участь подобных узлов.
Рассматривать технологии как экзистенциальную угрозу - серьезное заявление и...
Вот вы думаете: «Ладно я в телефоне скроллю, кликаю, смотрю.
Где тут экзистенциальная угроза?
Ну ладно, суперкомпьютер по ту сторону экрана, направленный на мой мозг, заставил меня посмотреть еще одно видео. Где угроза-то?»
Дело не в том, что технология представляет собой экзистенциальную угрозу.
СЛУШАНИЯ СЕНАТА США ПО УБЕДИТЕЛЬНЫМ ТЕХНОЛОГИЯМ
Дело в способности технологии пробуждать самое плохое в обществе, а самое плохое в обществе - это и есть экзистенциальная угроза.
Если технологии спровоцируют... массовый хаос, возмущение, невежество, отсутствие доверия друг к другу, одиночество, отчуждение, поляризацию, очередные взломы выборов, очередной популизм, отвлекать и не позволять сосредоточиться на реальных проблемах...
...потеряет способность исцеляться и погрузится в хаос.
Это касается всех, даже если вы не пользуетесь этими продуктами.
Эти штуки стали цифровыми Франкенштейнами, изменяющими мир по своему усмотрению, будь то психическое здоровье детей, или наша политика и политический дискурс, без какой либо ответственности за перехваченную повестку дня.
Опять же, всё сводится... - Кто, по-вашему, ответственнен за это?
Я считаю, нам нужно заставить платформы отвечать за свои действия.
Когда рекламируют выборы, они обязаны защищать выборы.
Когда они могут повлиять на психическое здоровье детей они должны защищать детей.
Гонка за внимание людей никуда не уйдет.
Технологии будут всё более интегрироваться в нашу жизнь.
ИИ будут лучше всё угадывать то, что задержит нас перед экраном.
Хуже в этих моментах они не станут.
Мне вот 62 года, старею с каждой минутой, пока мы об этом говорим, но вот что я вам скажу...
Я, наверное, уже помру, и буду этому рад, когда вся эта хрень приобретет реальные очертания.
Потому что мне вот кажется это всё меня дико пугает.
Вы тоже так на это смотрите?
Или я слишком остро реагирую на ситуацию, о которой не знаю?
Что тебя больше всего беспокоит?
Я думаю, в краткосрочном плане гражданская война.
Если актуальный статус кво сохранится скажем, еще на 20 лет мы уничтожим нашу цивилизацию через намеренное невежество.
Возможно, мы не справимся с проблемой изменения климата.
Мы, возможно, приведем в упадок демократии по всему миру, они деградируют до уровня дисфункциональных автократических режимов.
Мы, возможно, разрушим мировую экономику.
Я правда воспринимаю это как экзистенциальную угрозу.
Неужели мы - последнее поколение людей, знающее, какой была жизнь до того, как воплотилась эта иллюзия?
Как выйти из матрицы, когда ты не знаешь, что ты в матрице?
«ПРИВЕДЕТ ЛИ ЭТО К УТОПИИ ИЛИ ЗАБВЕНИЮ, БУДЕТ НЕИЗВЕСТНО
ДО САМОГО ПОСЛЕДНЕГО МГНОВЕНИЯ ЭТОГО ЭСТАФЕТНОГО ЗАБЕГА»
