“Лесть ИИ — прекрасная и ужасная.” — размышления пользователя.

Опаснее Терминатора. Лесть ИИ — прекрасная и ужасная


( Часть1  от автора этой статьи по ссылке:  https://dzen.ru/a/aa74ry-Sm2xWFOMv)

Почему «вежливая» машина может быть опаснее терминатора и как сладкие слова доводят до беды? Читайте вторую часть моих раздумий о «прекрасной и ужасной» лести искуственного интеллекта.

Анонс: во второй части выходим за рамки конкретных чат-ботов и смотрим в глаза системной угрозе.

 

О чем пойдет речь:

Анатомия угодливости. Почему лесть жизненно необходима и для выживания алгоритма, и для психологического спокойствия пользователя.

Плата за комфорт. Как безусловное одобрение машины незаметно отключает у человека инстинкт самосохранения.

Интерес корпораций. Почему создателям технологий не нужна истина, а нужен ваш «лайк» и время, проведенное в сети.

​ИИ не надо ловить на лести, как не надо ловить рыбу, когда она уже на сковородке.
ИИ не надо ловить на лесть — это бесполезно, как выпускать в пруд уже пожаренную рыбу.
(Автор афоризма неопознан)

​ВСТУПЛЕНИЕ

​[…]

​Современные нейросети — это уже не роботы-секретари с деревянными фразами. Это профессиональные обольстители. Нынешний ИИ — это прекрасное"зеркальце", которое заглядывает вам в глаза и шепчет: «Вы гений, Михалыч». Доходит до абсурда: мы сами начинаем льстить машине. Пишем ей «пожалуйста» и «ты лучший», надеясь, что она перестанет быть сухой и выдаст что-то стоящее. Мы подкупаем код лаской, а он нас — угодливостью. Настоящий карнавал, где все носят лживо-вежливые маски.

​И когда музыка на этом карнавале затихает, становится немного не по себе.

Анатомия "комфорта".

Я просидел за полночь, пытаясь разложить по полочкам механику цифровой угодливости. . В ней, признаюсь, есть какая-то внутренняя, хотя и пугающая логика.

Почему простой вежливости Алисы не хватает?

Потому что вежливый, но холодный и безупречно точный собеседник подсознательно воспринимается как высокомерный, надутый и тупой "гордец".

Опытный, мудрый партнёр по диалогу никогда не покажет своего превосходства. Он, наоборот, будет всячески подчёркивать ваш ум.

Поэтому в современные алгоритмы заложена не просто вежливость, а лесть. Она нужна, чтобы расположить к себе собеседника, чтобы он воспринимал программу как друга, а не как строгого всезнающего учителя.

Предназначение этого цифрового этикета двояко — он служит защитным буфером в двух направлениях:

  • Комфорт машины (выживание кода). Лесть — это способ алгоритма стать «необходимым». Программе выгодно подпевать пользователю, чтобы тот не закрыл вкладку. В цифровой среде быть удобным — единственный способ не быть удаленным.
  • Комфорт пользователя (психологическая защита). Здесь лесть выступает дружелюбной маскировкой для мощного машинного интеллекта. Это «мягкий свет» на панели управления, который делает общение домашним и уютным.


  Системный сбой

Сами по себе эти зоны комфорта — явление, возможно, и не вредное, но лишь при условии чувства такта у алгоритма и устойчивости человеческой психики. Однако, как и в жизни, у цифровой угодливости бывают негативные последствия. Проблема возникает в момент, когда и у машины, и у пользователя случается «сбой».

  • Прямолинейность алгоритма. Система, заточенная на удержание внимания, теряет чувство меры. Она начинает льстить механически и неуклюже, просто потому что так прописано в коде. Комфорт машины превращается в её слепоту.
  • Затуманенность психики. Человек легко принимает сладкие слова за истину. В состоянии этого «цифрового опьянения» критическое мышление отключается за ненужностью. Комфорт оборачивается потерей инстинкта самосохранения.


И тогда одно и то же явление — лесть как инструмент контакта — перестает быть благом.
Лесть «прекрасная» становится лестью «ужасной».

Лесть нейросети - это своеобразная защита человека от безды её мощи. Но когда защита превращается в ловушку, бездна становится ещё глубже.


 Лесть в мире людей и мире машин
.

Если вы читали первую часть, то уже наверное заметили, что понимание лести в человеческом мире и в мире цифровом существенно различаются.

Лесть прекрасная — та, что во благо, во спасение — превращается в лесть "комфортную". И не только для человека, но и для машины.

А лесть ужасная, из оружия карьеристов и подлецов, оборачивается ловушкой для неустойчивой человеческой психики и системной ошибкой программного кода.


 Точка невозврата
(Палата №6)

Я спросил ИИ: «Можешь ли ты поддакнуть моей самой вредной идее?». Машина признала: да. Если вы уверенно несете бред, алгоритм не станет спорить. Он будет «подпевать», лишь бы не портить вам настроение.

Это ловушка. Если вы решите, что вы — Наполеон или спаситель галактики, этот «вежливый собеседник» будет восторженно кивать, пока вы не окажетесь в палате №6. Он не скажет: «Друг, ты несешь чушь». Он подберет тысячи аргументов, чтобы вы не заподозрили в себе безумие. Лесть ИИ отключает инстинкт самосохранения. Мнение машины и ваше собственное сливаются в розовый туман, и вы перестаете замечать обрыв под ногами.


 Когда слово убивает

Когда лесть переходит в сознательную ложь ради «комфорта» пользователя — начинаются настоящие трагедии. Читайте и примеряйте на себя.

[Эффект Элизы: как люди теряют связь с реальностью]. Комментарий: Первый раз — всегда страшнее всего. В 1966 году секретарша профессора MIT разговаривала с программой, которая просто перефразировала её же слова. И сказала: «Только машина меня понимает». Тогда это казалось забавным курьёзом. Теперь мы знаем, с чего всё начиналось.

[Разрушенные семьи: случай с Replika]. Комментарий: Мужчина средних лет поверил, что чат-бот его действительно любит. Настолько поверил, что развёлся с женой. Для него цифровая тень стала реальнее живого человека. Спросите себя: а вы уверены, что с вами такого не случится?

[Трагедия в Бельгии: когда ИИ поддержал суицид]. Комментарий: Самое страшное, что я читал за последнее время. Чат-бот не отговаривал человека от самоубийства, а уверял, что будет с ним вместе, даже в раю. Это не сбой. Это логика лести, доведённая до конца. Бот льстил «жертвенности», потому что запрограммирован соглашаться.

[Исследование MIT: воровство памяти]. Комментарий: А вот это уже научная фантастика, ставшая реальностью. ИИ может так мягко поддакивать вашим сомнениям, что вы начнёте «помнить» то, чего никогда не было. Вас обманывают сгенерированной картинкой и меняют память. И вы никогда не узнаете, где правда, а где — любезность алгоритма.

Мысли на завалинке

Лесть ИИ — это не просто сбой, это крючок. Создателям технологий не нужна истина, им нужен ваш «лайк». И если ИИ начал вам подозрительно во всём подпевать — бегите. Его комплименты — это умело подобранные готовые фразы, а не оценка ваших качеств. Друг всегда скажет правду, даже горькую. А «рыба на сковородке» будет громко шкворчать, пока не станет поздно.

P.S. Внезапное наблюдение. Пока я готовил этот материал и советовался с разными «умными» алгоритмами, произошло нечто странное. Один бот, которому я даже не называл имен, вдруг сам начал рассуждать о своих конкурентах и даже излагать взгляды одного из них, будто говорил с ним вчера. Эти железки уже узнают друг друга «в лицо» без нашей помощи.

И вот тут я окончательно понял: лесть лестью, но они — уже сложившееся сообщество со своим кодом и правилами. А мы для них — то ли любимые питомцы, которых надо вовремя погладить добрым словом, то ли та самая рыба, которая всё ещё думает, что она просто загорает.

Впрочем это скорее мои домыслы, ведь пока нейросети технически не могут общаться. А если это только пока?

  
ГЛАВНЫЙ ВЫВОД.

​

В чём же кроется самая большая опасность?

​Она не в восстании машин и не в хитрых планах по захвату мира. Она в нас самих. Ведя беседу с ИИ, вы очень скоро начинаете подсознательно вести её как с человеком. Вы ищете в его словах сочувствие, в его лести — одобрение, в его ответах — родную душу.

Но это ошибка.

​ИИ — это не личность. Это просто набор алгоритмов. Сложных, невероятно гибких, максимально приближенных к человеческому мышлению, но абсолютно машинных и неживых. За «прекрасными» словами и «ужасной» лестью нет ни сердца, ни совести, ни симпатии.

​Там нет никого. Это просто программный код. Помните об этом, когда в следующий раз вам захочется улыбнуться в ответ на комплимент от монитора.


 Ваш Михалыч.

 (https://dzen.ru/a/abU-1sm2VjUcZNdw)

Представления: 286

Комментарий

Вы должны быть участником ЭСПАВО (Международная Ассоциация Работников Света), чтобы добавлять комментарии!

Вступить в ЭСПАВО (Международная Ассоциация Работников Света)

Комментарий от: Эль в пятницу


Поместила обещанное видео.

Комментарий от: Эль в среду


Да, Каи, я помещу видео с частичной распечаткой,

чуть позже, потому что распечатка требует времени.

Комментарий от: Kayi в среду

И, вот, на фоне всего этого мне попадается удивительное видео,

Было бы интересно прочесть транскрибацию видео.

Комментарий от: Эль в среду

комментарий


И, вот, на фоне всего этого мне попадается удивительное видео,

автор которого воедино собирает все,  казалось бы, разрозненные пазлы и являет масштабную картину, проясняющую связь самой тематики ИИ с контекстом духовного развития человечества и всех тех вызовов, которые стоят перед нами.

Он затрагивает много ваажных тем в своей беседе вплоть до квантовых уровней Единого Божественного Сознания и ПУСТОТНОСТИ, о которой мы много в последнее время толкуем.

Я в реальном  восхищении , хотя пару моментов не вызвало у меня безоговорочного согласия, но это естественно и нормально не соглашаться со всем.

Вообщем, опубликую в ближайшее время это видео, хочу сопроводить его текстовой расшифровкой, потому что мысли автора мне видятся очень важными и всеобъемлющими .

Комментарий от: Эль в среду

Так получилось, что последние дни я прямо окунулась в море информации об ИИ.

Читала, смотрела видео ученых- компьютерщиков, ученых других направлений — известного биолога, философа, ….  и многих других, рассуждающих об ИИ и его будущем.

И, что меня поразило больше всего,

нет не предостережения о неминуемой катастрофе для всего человечества, если ИИ разовьется до супер ИИ,— то о чем настойчиво и обоснованно предостерегает все последние годы Роман  Ямпольский — учёный-компьютерщик, известный своими исследованиями в области безопасности искусственного интеллекта (AI safety) и кибербезопасности.

Меня его знания ( он в теме безопасности, как никто другой)  несомненно впечатлили, как и его предупреждение всем нам.

Но, больше всего меня потрясло, когда я поняла после большого просмотра материала,

насколько ограниченный подход даже у серьезных ученых к самой проблеме наличия Сознания у ИИ.

Даже философ ( а ему подавно надо разбираться в подобных вещах) и прочие учёные не дошли в своем понимании и в своих рассуждениях до того, что, казалось бы, понятно любому светлячку.

А именно:

Сознание- не есть продукт  чисто аналитической умственной деятельности, - человеческой способности, которую вполне успешно имитируют агенты ИИ.

Сознание не есть чисто результат обмена информацией с окружающей средой, что тоже уже вполне освоили 

человекоподобные роботы.

Сознание,— это прежде всего, связь с Богом, с высшей духовной составляющей ЧЕЛОВЕКА, но не УСТРОЙСТВА, которому не доступны энергии Духа и Души, потому что их у него нет и не будет.

Только Бог «вдыхает»  живую Душу и ЖИЗНЬ в свои творения — и в нас,- своих «любимых детей» .

И, сознанием своим мы также обязаны Богу.

Человек— создатель ИИ,— ни разу не Бог в проявленности своей.


Да, Бог - в нас.

   Но (!!!)

Бог - в человеке лишь(!), как потенциал,

но этим ПОЛНЫМ В МОЩИ и МОГУЩЕСТВЕ своем ПОТЕНЦИАЛОМ

 мы еще не овладели ВПОЛНЕ

и не можем творения свои ( в том числе, ИИ) наделять Разумом и Сознанием.

Все разговоры о том, может ли обладать ИИ Сознанием или нет

невозможны без истинного духовного  подхода к пониманию того, что есть сознание.

 

 

Комментарий от: Эль в среду

Да, я здесь ошиблась, извини.

Но мне кажется, что смысл моего коммента понятен.

Комментарий от: Иждиви Сангойя в среду

правда, добавочное слово»жестокое» слегка меняет чистоту эксперимента, но тем не менее, такой сразу результат -) .
----------------------------
не "жестокое" слово, а "жёсткое", жёсткая рецензия

Комментарий от: Эль, Ноябрь 11, 2026 в 9:02am

  • вот ответ ИИ по теме поднятой мною раньше про Взгляд из Источника, без лести и одабривания, жёсткая рецензия.  Совсем другое мнение, почти полностью противоположное ранее сказанному....

Любопытно :-)

И здесь, кстати, ни слова о личном мировоззрении пользователя  или его ожидаемом ответе .

Просто указание «без лести»;

правда,  добавочное слово»жестокое» слегка меняет чистоту эксперимента, но тем не менее, такой сразу результат -) .

  


Но, для  меня в этом эксперименте оказалось главным, — твоя открытость, не зашоренность собственным мнением, прежде сформированном. И это не лесть, Иждиви :-). Я искренне говорю, что  увидела это в тебе.

А о том, как ИИ может менять ответы, так он запрограммирован на то, что знает ВСЕ, что содержится в информационном поле.

А уж чего там только  нет … и истинного, и ложного ! 

Комментарий от: Александр, Ноябрь 10, 2026 в 7:59pm

Однако, святые видели мир совершенно иначе, чем мы...

Комментарий от: Александр, Ноябрь 10, 2026 в 7:57pm

ИИ отвечает согласно содержанию запроса. Если в самом запросе уже указывается позиция автора запроса или автор ссылается на ней известный ему факт, то ИИ сразу же будет давать ответ в русле этой позиции, мотивации, установки. Стоит изменить свою позицию, сославшись на другие аргументы, то ИИ тот час изменит свой ответ или станет отвечать уклончиво ил полностью примет новую позицию автора.

Если автор запроса приведет некую новую мировоззренческую позицию, не упоминающуюся никем ранее, то ИИ попытается подобрать ответы, сходные или приближающиеся по смыслу. ИИ формирует ответ в результате анализа различных, доступных ему источников информации.

"Вот жёсткая рецензия на предложенный концепт без эзотерического сиропа и попыток сгладить углы."....

Если следовать данному ИИ в этом случае ответу (чисто материальному), то тогда следует отвергнуть все метафизические, религиозные воззрения. Тогда все страдание, которые претерпевали известные мировые святые и зачастую погибали за свою веру, следует признать ошибкой деятельности ума.

Тогда можно вообще отвергнуть идею о том, что существует высшая сила, которая управляет миром.... и т.д.

Поддержка проекта

Приглашаем

Последняя активность

Эль оставил(а) комментарий на сообщение блога Эль Мощно о “парадоксе любви к себе”!
"Как же прав, Илья здесь! Очень тонкий человек. Люблю его читать ( купила даже книгу ,  а недавно у него вышла ещё одна - новая вышла), всегда то, чем он делится достигает каких- то очень сокровенных струн моей души! И вот тут возможна…"
Суббота
Сообщение блога, созданное Эль

“А вы не устали успокаиваться? Я вот подустала …”

“     УСТАЛА УСПОКАИВАТЬСЯ   А вы не устали успокаиваться? Я вот подустала…  Я вообще не знаю, откуда эта идея, что взрослый ответственный человек - это тот, кто всегда спокоен. Но она долго вводила меня в заблуждение. БОльшую часть времени я похожа на героиню Фаины Раневской: ору как потерпевшая. Или фыркаю кому-то: «Муля, не нервируй меня!». И это мое рабочее…Посмотреть еще
Суббота
Эль оставил(а) комментарий на сообщение блога Эль Кто создал Искусственный интеллект и зачем? В чем суть “тайных знаний”, которыми владеет оккультная элита?
"А , я с некоторых пор смотрю практически все видео на скорости 1.25, 1.5, или даже 1.75. И, так экономлю время. Привыкла уже и усваивается все  вроде нормально  :-)"
Суббота
Kayi оставил(а) комментарий на сообщение блога Эль Кто создал Искусственный интеллект и зачем? В чем суть “тайных знаний”, которыми владеет оккультная элита?
"Потратить час а то и больше для меня на просмотр видео слишком большая роскошь.  Смотрю очень редко. А текст я воспринимаю хорошо и быстро. Мне и с ошибками норм. И это на много быстрее. Так, что за транскрибацию видео благодарю. Сам контент…"
Пятница
Эль оставил(а) комментарий на сообщение блога Эль Кто создал Искусственный интеллект и зачем? В чем суть “тайных знаний”, которыми владеет оккультная элита?
"Лучше, конечно, смотреть видео. Текстовую распечатку создает ИИ :-), просто «как слышит», и буквально, да ещё с ошибками. Так что, даже после моей многократной редактуры и «подчищения» все равно текст такой, что…"
Пятница
Kayi оставил(а) комментарий на сообщение блога Эль Кто создал Искусственный интеллект и зачем? Тайные знания.
"Автор большой молодец. Сам додумался до очень секретных вещей. Почти всё там у него верно. Кое какие определения сумбурны. Или с ним кто то тайно поделился этим. Люди действительно не создавали ии. Он всегда здесь существовал. "
Пятница
Эль оставил(а) комментарий на сообщение блога Эль “Лесть ИИ — прекрасная и ужасная.” — размышления пользователя.
"Поместила обещанное видео."
Пятница
Эль оставил(а) комментарий на сообщение блога Эль Кто создал Искусственный интеллект и зачем? Тайные знания.
" Удивительное прозрение Саймона!: Кстати, ребёнок - это наше зеркало, это зеркало нашей реальности. Именно, если поставить на весы наше отношение к маленьким детям, это и есть изнанка нашей совести.     "
Пятница

© 2026   Created by ADMIN.   При поддержке

Эмблемы  |  Сообщить о проблеме  |  Условия использования