Угрожает ли быстрое развитие искусственного интеллекта

[Аврора]

ВОПРОС: Хотелось бы услышать Ваше мнение по поводу угрожает ли быстрое развитие искусственного интеллекта работе психологов? Все труднее становится отличить человека от нейронки при разговоре/переписке. Я хотела бы учиться на психолога, но понимаю что это долгий путь и до того времени пока научусь многих профессий уже не будет..

***

Мне кажется, значение ИИ преувеличено. Сейчас, когда это в новинку, искусственный интеллект начнет делать все подряд - рисовать, наставлять, придумывать сценарии и стихи, писать музыку, не говоря уже о сложных вычислениях и контроле. Заполонит все вокруг. Но в итоге - вангую - его сфера деятельности все-таки ограничится теми областями, где требуется больше логики и разума. Человеческое вернется человеку.

Сначала возможно, и будут попытки заменить психологов и прочие душевные профессии ИИ, и это будет увлекательно и значительно дешевле) Но человеку нужен человек, энергообмен. Ведь люди состоят не только из ума. Людям нужна энергетика. Вот сейчас все увлечены рисованием аватаров и картин в нейросетях. Это необычно, красиво, быстро. Но все, кто хоть немного обладает чувствованием, ощущают, что за этими картинками нет души, не энергетики живого творчества. И со временем, когда схлынет первый восторг, эта самая - живая душевная энергия будет на вес золота. Собственно, она и сейчас такова, и всегда была.

Посмотрите, кто самый успешный в нашем мире? Разве самые талантливые, умные, логичные? Кто пользуются успехом у противоположного пола? Самые красивые? Да нет же, нет и нет!

Успех - в энергетике. Успех у тех, кто не боится показать себя живым. Живая энергия человека, божья искра - вот за чем все гоняются. И мало того, что она есть, она еще и индивидуально окрашена, у каждого своя. Кто-то гоняется за светлой энергетикой, кто-то за темной, каждому свое. Но нужна именно живая энергия, а не машины. То, что люди стали меньше общаться живьем, сделало живую энергию только ценнее.

Если ваша Душа зовет вас в психологию, слушайте ее, а не СМИ. Как будет выглядеть психология в будущем мы не знаем, возможно ИИ будет помогать, но то, что человеку по-прежнему нужен будет человек, это факт, и он неоспорим.

Глория Мур

[Аврора]

Спасибо за пояснение, Кай!

[Kayi]

На счёт искусственного, я бы пожалуй не согласилась, тут как бы спорный вопрос

У меня было много бесед на эту тему. Из которых следует достаточно однозначно. Что причина ни разу не биологическая. С биологией у нас всё  в порядке в этом. Причина программная. Связана с принципами функционирования зрения. Это очень не простая теле камера, на подобие тех, что сейчас повсюду. А сигнал со зрительной матрицы передаётся по такому же принципу. Это просто поток электрических импульсов слабого потенциала, как от обычных матриц телекамер, где сигнал передаётся вообще по одному проводку. Так вот далее этот сигнал попадает в мозг, где прошита программа декодер - вот результат работы этого декодера мы как бы и видим. В нём и "прошиты" ограничения того, что нам следует видеть, а чего нет. Персонально эти ограничения могут снимать. Ну, скажем за какие то духовные заслуги. 

Во всяком случае примерно так мне объяснили. 

[Аврора]

То есть уточню - это было более 10 лет назад. Десять лет нынче - это оочень много. Подозреваю, что с тех пор всё продвинулось много дальше.

О, да!:)

[Аврора]

В общем на самом деле человек может видеть гораздо больше, чем нам кажется. Это искусственное ограничение.

На счёт искусственного, я бы пожалуй не согласилась, тут как бы спорный вопрос, а вот то, что человек может видеть гораздо больше, с этим согласна. Что в общем-то и проявляется в результате духовных практик к примеру. Да и спонтанных проявлений тоже хватает. Правда это бывает чревато ударом по психике.

И медицинские/научные исследования по изучению работы мозга тоже ведь ведутся. И тут создание ИИ в какой-то мере этому даже способствует.

[Kayi]

Кстати, хотел упомянуть про картинки которые нейросеть восстановила на основе анализа излучений мозга.

Более 10 лет назад я читал статью, в которой авторы проекта показывали свои эксперименты. В которых человек с помощью своих мыслей мог двигать курсор мышки на экране ПК. работало именно на принципе, как описано про картинки. То есть уточню - это было более 10 лет назад. Десять лет нынче - это оочень много. Подозреваю, что с тех пор всё продвинулось много дальше. А восстановленные картинки просто любопытный и эффектный момент.

Я всё это к тому, что беспроводной нейроинтерфейс уже давно создан и сейчас скорее всего уже весьма совершенен. Просто его по каким то причинам скрывают. На фоне этого - всякое "чипирование" и тому подобные технологии (включая нанографен) становятся совершенно бессмысленными. 

У меня кстати есть предположение, почему эти технологии, как и технологии "дополненной реальности" до сих пор не вошло в каждый дом. Я имел некотрую беседу с моими "ведущими" - мне редко чего то сообщаяют. Так вот на счёт "дополненной реальности" мне намекнули, что это не пошло в массы по причине того, что эти устройства при эксплуатации приводили к тому, что люди начинали через некоторое время видеть кое что из того, что нам видеть не положено. То есть что то кроме той картинки наложенной виртуальной реальности. Происходил сбой визуального фильтр. 

Тоже касается и этих нейроинтерфейсов - на экранах появляется то, что человек "как бы не видит" и не должен видеть. То есть так же ломает "фильтр-декодер" - того, что нам положено видеть.

В общем на самом деле человек может видеть гораздо больше, чем нам кажется. Это искусственное ограничение. 

[Аврора]

конструктивно мыслящих людей гораздо больше - во всяком случае я в это верю. 

Я тоже!:)

[Аврора]

Этика искусственного интеллекта

Этика

Этический аспект разработки и внедрения технологий искусственного интеллекта крайне важен для понимания развития современной цивилизации и места в ней человека. Философские вопросы, возникающие в этой связи, имеют отношение к искусственному интеллекту как исследовательскому пространству. Что такое интеллект, чем искусственный интеллект отличается от интеллекта естественного? Как искусственный интеллект может влиять на человеческое сознание и что такое сознание? Как сохранить человеческое достоинство и права человека в быстро меняющихся условиях смены одной инновации другой? Может ли машина мыслить и может ли она быть моральным агентом? Соответственно, помимо эпистемологических, антропологических, онтологических вопросов, встают остро и вопросы этические, заставляющие осмысливать границы допустимого и определять должное. Уже сейчас существуют технологии, которые можно использовать для противоправных действий. Например, deepfake — подмена изображения в видео одного человека изображением другого. Новые инструменты могут нести и новые социальные, в том числе, коммуникативные риски, представлять угрозу человеческой идентичности, сохранности личных данных и прочее. Их предвидение и предупреждение являются важными элементами прогрессивного развития технологической цивилизации.

В 2021 году был подписан Кодекс этики в сфере ИИ. Его важнейшей особенностью является человеко-ориентированный и риск-ориентированный подходы к пониманию перспектив развития искусственного интеллекта. В нем четко обозначена сугубо человеческая ответственность за моральные риски разработки и внедрения искусственного интеллекта и фиксируется необходимость учета гуманистической направленности этих разработок, то есть они не должны препятствовать, но призваны способствовать совершенствованию личности человека, его когнитивных способностей и сохранности человеческой цивилизации и культуры.

В рамках Центра разрабатывается отдельный проект, в котором ставится задача выработки методологических указаний по проведению этической экспертизы на всех этапах разработки и внедрения ИИ.

 

Искусственный интеллект

 

Искусственный интеллект — понятие широкое, значение часто зависит от контекста. Специалисты чаще используют понятия интеллектуальная система и методы искусственного интеллекта. ИИ — это система, которая способна решать интеллектуальные задачи. Наименование artificial intelligence было предложено ученым Джоном Маккарти в рамках Дартмутского семинара в 1956 году, где обсуждались ключевые вопросы, связанные с разработкой ИИ.

Следует различать концепции сильного или общего искусственного интеллекта (artificial general intelligence) и слабого или специализированного искусственного интеллекта (narrow artificial intelligence). Примеры слабого ИИ окружают людей в повседневной жизни: технологии «умного дома», онлайн-переводчики, распознавание изображений. Другими словами, слабый ИИ может решать конкретные задачи, под которые он был создан. Если система была обучена, чтобы играть в шахматы, то без дополнительных усовершенствований она сможет играть только в эту игру.

Сильного искусственного интеллекта пока не существует. Мнения ученых и экспертов расходятся в вопросе, возможно ли создание таких систем.

Сильный ИИ отличается от слабого тем, что должен решать разные интеллектуальные задачи, а не только те, под которые он был сконструирован. Кроме этого, среди отличительных свойств сильного ИИ называют сознание, самообучаемость для выполнения принципиально новых задач и целеполагание. Системы слабого ИИ не обладают этими качествами, но уже могут превосходить человека в решении тех проблем, для которых они были разработаны.

[Kayi]

Так что я лично не питаю иллюзий на этот счёт и думаю, что успехами ИИ будут пользоваться и преступники, и мошенники.

Это увы вполне ожидаемо. Однако и тут придётся задействовать специально заточенный ии. И он будет однозначно сильнее, просто потому, что конструктивно мыслящих людей гораздо больше - во всяком случае я в это верю. 

[Аврора]

В какие руки попадут достижения ИИ - вот в чем вопрос.

Я в этом плане несколько пессимистична, а может это реализм:)

Видя то, что происходит в нашем обществе, учитывая историю человечества, да и пожалуй "пресловутую" дуальность:) люди даже то, что изобретают ради блага, так или иначе используют и во вред. Не все конечно, но сами открытия, изобретения в общем-то применялись и применяются в разных целях. Думаю что и ИИ не будет в этом плане исключением. Так что я лично не питаю иллюзий на этот счёт и думаю, что успехами ИИ будут пользоваться и преступники, и мошенники. К сожалению от этого никуда не деться, разве что искоренять преступность и корысть в нашем обществе. Но до этого ох, как далеко.

[Аврора]

Искусственный интеллект: что о нем думают ученые

Сегодня об искусственном интеллекте не пишет только ленивый. Например, в Autodesk считают, что искусственный интеллект может учитывать гораздо больше факторов, чем человек, и, таким образом, давать более точные, логичные и даже более креативные решения сложных проблем. В Оксфордском университете вообще высказывают предположения о том, что искусственный интеллект в недалеком будущем может заменить штатных журналистов и писать за них обзоры и статьи (и того и гляди выиграет Пулитцеровскую премию).

Общее увлечение темой искусственного интеллекта давно вышло за рамки научных конференций и будоражит умы писателей, кинематографистов и широкой общественности. Кажется, что от будущего, в котором роботы (или Скайнет) правят миром или, как минимум, решают большую часть повседневных задач, рукой подать. Но что по этому поводу думают сами ученые?

Для начала стоит разобраться с термином «искусственный интеллект»: слишком много существует на эту тему домыслов и художественных преувеличений. В этом вопросе лучше всего обратиться к автору этого термина (и по совместительству создателю языка Лисп и лауреату множества премий) – Джону Маккарти. В статье с одноименным названием («Что такое искусственный интеллект?») Маккарти приводил следующее определение:

Это наука и технология создания интеллектуальных машин, в особенности – интеллектуальных компьютерных программ. Искусственный интеллект связан с задачей использования компьютеров для понимания работы человеческого интеллекта, но не ограничивается использованием методов, наблюдаемых в биологии.

Получается, что искусственный интеллект и интеллект «человеческий» тесно связаны? Не совсем так – сам Маккарти подчеркивал: если интеллект «вообще» – это «вычислительная» составляющая того, что помогает субъекту достигать заданных целей, тогда интеллект человека, животных и машин будет работать по-разному.

Выходит, что искусственный интеллект – это не подобие человеческого, хотя многим футуристам, писателям и даже ученым хочется верить в то, что это не так. Об этом часто повторяет Майкл Джордан, почетный профессор Калифорнийского Университета в Беркли. Он считает, что недостаточное понимание того, что же представляет из себя искусственный интеллект, приводит не просто к созданию «красивых образов», не связанных с реальной наукой, а к самой настоящей дезинформации и разного рода мифам, процветающим в этой области.

Миф первый: для создания или усовершенствования искусственного интеллекта надо разобраться с тем, как работает человеческий мозг

Джордан утверждает, что это вовсе не так. Работа искусственного интеллекта, как правило, не имеет ничего общего с тем, как устроен интеллект человека. Этот «миф» глубоко укоренился из-за пристрастия общественности к «красивым идеям»: авторам научно-популярных статей об искусственном интеллекте пришлись очень по душе метафоры, взятые из нейробиологии.

На самом деле нейробиология имеет очень опосредованное отношение (или вообще не имеет никакого отношения) к работе искусственного интеллекта. Для Майкла Джордана идея о том, что «для глубинного обучения нужно понимание того, как обрабатывает информацию и учится человеческий мозг», звучит как откровенная ложь.

«Нейроны», задействованные в глубинном обучении – это метафора (или, выражаясь языком Джордана, вообще «карикатура» на работу мозга), которая применяется только для краткости и удобства. В действительности же работа механизмов того же глубинного обучения гораздо ближе к процедуре построения статистической модели логистической регрессии, чем к работе настоящих нейронов. При этом, никому не приходит в голову для «краткости и удобства» использовать метафору «нейрона» в статистике и эконометрике.

Миф второй: искусственный интеллект и глубинное обучение – последние достижения современной науки

Мнение о том, что «думающие как человек» компьютеры будут сопровождать нас в недалеком будущем, напрямую связано с идеей, согласно которой искусственный интеллект, нейронные сети, глубинное обучение являются достоянием исключительно современной науки. Ведь если допустить мысль о том, что все это было придумано десятилетия назад (а роботы к сегодняшнему дню так и не захватили мир), «порог ожиданий» от научных достижений вообще и скорости их развития в частности придется серьезно снизить.

К сожалению, СМИ стараются сделать все возможное, чтобы подогреть интерес к своим материалам, и очень избирательно относятся к выбору тематик, которые, по мнению редакторов, вызовут интерес у читателей. В итоге описываемые ими достижения и их перспективы оказываются гораздо более внушительными, чем реальные открытия, а часть информации просто «аккуратно опускается», чтобы не снижать накала страстей.

Многое из того, что сейчас преподносят «под соусом» искусственного интеллекта, является просто переработанной информацией о нейронных сетях, которые известны человечеству с 80-х годов.

А в восьмидесятые все повторяли то, что было известно в 1960е годы. Такое чувство, что каждые 20 лет проходит волна интереса к одним и тем же темам. В нынешней волне главной идеей является сверточная нейронная сеть, о которой уже говорили лет двадцать назад
– Майкл Джордан

Миф третий: искусственная нейронная сеть состоит из тех же элементов, что и «реальная»

На самом деле специалисты, занятые вопросами разработки вычислительных систем, оперируют нейробиологическими терминами и формулировками гораздо смелее, чем многие нейробиологи. Интерес к работе мозга и устройству интеллекта человека стал питательной средой для развития такой теории как «невральный реализм».

В системах искусственного интеллекта нет ни спайков, ни дендритов, более того, принципы их работы далеки не только от работы головного мозга, но и от пресловутого «неврального реализма». Фактически, в нейронных сетях ничего «нейронного» нет.

Более того, идея «неврального реализма», основанная на уподоблении работы систем искусственного интеллекта работе мозга, по мнению Джордана, не выдерживает критики. По его словам, к прогрессу в сфере искусственного интеллекта привел не «невральный реализм», а использование принципов, совершенно не согласующихся с тем, как работает мозг человека.

В качестве примера Джордан приводит популярный алгоритм глубинного обучения, основанный на «обратной передаче ошибки обучения». Его принцип работы (а именно передача сигнала в обратном направлении) явно противоречит тому, как работает человеческий мозг.

Миф четвертый: ученые хорошо понимают, как работает «человеческий» интеллект

И это снова далеко от истины. Как утверждает все тот же Майкл Джордан, глубинные принципы работы мозга не просто остаются нерешенной проблемой нейробиологии – в этой области ученых отделяют от решения вопроса десятки лет. А попытки создать работающую имитацию мозга так же не приближают исследователей к пониманию того, как устроен человеческий интеллект.

Это просто архитектура, созданная в надежде, что когда-нибудь люди создадут подходящие для нее алгоритмы. Но нет ничего, что подкрепляло бы эту надежду. Думаю, что надежда основана на вере в то, что если вы построите что-то вроде мозга, то сразу станет понятно, что он может делать
– Майкл Джордан

Джон Маккарти, в свою очередь, подчеркивал: проблема не только в том, чтобы создать систему по образу и подобию человеческого интеллекта, а в том, что сами ученые не придерживаются единого мнения по поводу того, что он (интеллект) из себя представляет и за какие конкретно процессы отвечает.

На этот вопрос ученые пытаются ответить по-разному. В своей книге «Нейронные сети и глубинное обучение» Майкл Нилсен приводит несколько точек зрения. Например, с позиции коннектомики наш интеллект и его работа объясняются тем, сколько нейронов и глиальных клеток содержит наш мозг, и сколько соединений наблюдается между ними.

Учитывая, что в нашем мозге насчитывается порядка 100 млрд нейронов, 100 млрд глиальных клеток и 100 трлн соединений между нейронами, говорить о том, что мы можем «в точности воссоздать» эту архитектуру и заставить ее работать, в ближайшем будущем крайне маловероятно.

А вот молекулярные биологи, изучающие геном человека и его отличия от близких родственников людей по эволюционной цепочке, дают более обнадеживающие прогнозы: оказывается, геном человека отличается от генома шимпанзе на 125 миллионов пар оснований. Цифра большая, но не бесконечно огромная, что дает Нилсену повод надеяться, что на основании этих данных группа ученых сможет составить если не «работающий прототип», то как минимум сколь бы то ни было адекватное «генетическое описание» человеческого мозга или скорее базовые принципы, лежащие в основе его работы.

Стоит сказать, что Нилсен придерживается «общепринятого человеческого шовинизма» и полагает, что значимые принципы, определяющие работу человеческого интеллекта, лежат в тех самых 125 миллионах пар оснований, а не в остальных 96% генома, которые у человека и шимпанзе совпадают.

Так сможем ли мы создать искусственный интеллект, равный по возможностям человеческому? Получится ли у нас в обозримом будущем понять, как именно работает наш собственный мозг? Майкл Нилсен, считает, что это вполне возможно – если вооружиться верой в светлое будущее и в то, что многие вещи в природе работают по более простым законам, чем это кажется на первый взгляд.

А вот Майкл Джордан дает более близкий к практической работе исследователей совет: не поддаваться на провокации журналистов и не искать «революционные» решения. По его мнению, привязываясь к человеческому интеллекту как отправной точке и конечной цели своих исследований, ученые, работающие над проблемой искусственного интеллекта, излишне ограничивают себя: интересные решения в этой области могут лежать в направлениях, никак не связанных с тем, как устроен наш мозг (и как нам представляется его устройство).