Ноам Хомский и Славой Жижек о ChatGPT.
Хомский: "Какими бы полезными ни были эти программы в некоторых узких областях (они могут быть полезны, например, в компьютерном программировании или в предложении рифм для стихосложения), мы знаем благодаря лингвистике и теории познания, что они глубоко отличаются от того, как люди привыкли рассуждать и использовать язык. Эти различия накладывают существенные ограничения на то, что могут делать эти программы, в коде которых существуют неустранимые дефекты.
Как мог бы заметить Борхес, одновременно и комично, и трагично, что столько денег и внимания приходится концентрировать на столь незначительном предмете — чем-то таком тривиальном по сравнению с человеческим разумом, который благодаря языку, по словам Вильгельма фон Гумбольдта, может «бесконечно использовать конечные средства», создавая идеи и теории универсального свойства.
Человеческий разум, в отличие от ChatGPT и ему подобных, не является неуклюжим статистическим механизмом для сопоставления с образцом, поглощающим сотни терабайт данных и экстраполирующим наиболее вероятный разговорный ответ или наиболее вероятный ответ на научный вопрос. Наоборот, человеческий разум — удивительно эффективная и даже элегантная система, оперирующая небольшими объемами информации; он стремится не выводить грубые корреляции между точками данных, а придумывать объяснения".
https://centerforpoliticsanalysis.ru/position/read/id/chatgpt-neopravdannye-nadezhdy
Жижек: "Проблема не в том, что чатботы глупы; дело в том, что они недостаточно «глупы». Дело не в том, что они наивны (отсутствуют ирония и рефлексивность); дело в том, что они недостаточно наивны (когда наивность маскирует проницательность). Таким образом, реальная опасность заключается не в том, что люди примут чатбота за реального человека; дело в том, что общение с чатботами заставит реальных людей говорить как чатботы — упуская все нюансы и иронию, навязчиво говоря только то, что, по их мнению, они хотят сказать.
...мой друг обратился к психоаналитику за лечением после травматического опыта. Представления моего друга о том, что именно такие аналитики ожидают от своих пациентов, было откровенным клише, поэтому свой первый сеанс он провел, произнося фальшивые «свободные ассоциации» о том, как он ненавидел своего отца и желал его смерти. Реакция аналитика была изобретательной: он занял наивную «дофрейдистскую» позицию и упрекнул моего друга в неуважении к отцу («Как ты можешь так говорить о человеке, которому ты стольким обязан?»). Эта притворная наивность посылала четкий сигнал: я не покупаюсь на ваши фальшивые «ассоциации». Сможет ли чатбот уловить этот подтекст?
Скорее всего, нет, потому что это похоже на интерпретацию Роуэном Уильямсом князя Мышкина в «Идиоте» Достоевского. Согласно стандартному прочтению, Мышкин, «идиот», — это святой, «положительно хороший и красивый человек», которого жестокость и несправедливость реального мира доводят до одиночества и безумия. Но в радикальном перепрочтении Уильямсом Мышкин представляет собой «глаз бури»: каким бы добрым и святым он ни казался, именно его присутствие вызывает хаос и смерть, свидетелем которых он становится благодаря своей роли в сложной сети отношений, сформированных вокруг него.
Дело не только в том, что Мышкин — наивный простак. Дело в том, что его специфическая наивность оставляет его в неведении о пагубных последствиях его поступков для других. Он плоский человек, который буквально говорит как чатбот. Его «доброта» заключается в том, что он, подобно чатботу, без всякой иронии, реагирует на проблемы, предлагая в ответ лишенные какой-либо рефлексии банальности, воспринимая все буквально и полагаясь на ментальное «автозаполнение», а не на аутентичное мышление. По этой причине новые чатботы очень хорошо уживутся с идеологами всех мастей, от толпы сторонников культуры бдительности до сторонников Трампа, предпочитающих оставаться в «спящем режиме».
https://centerforpoliticsanalysis.ru/position/read/id/iskusstvennyj-idiotizm