Илон Маск и ведущие исследователи призвали приостановить "масштабные эксперименты с ИИ", признав глубинные риски для общества и всего человечества

[Эль]

Маск и эксперты в области ИИ призвали приостановить обучение нейросетей

В открытом письме Илон Маск и ведущие исследователи назвали гонку в сфере искусственного интеллекта рискованной и призвали к созданию независимых надзорных органов для обеспечения безопасности, пишет The Verge. Нынешние системы уже непредсказуемы и неподконтрольны никому — даже их создателям.

Ряд известных исследователей искусственного интеллекта и миллиардер Илон Маск подписали открытое письмо с призывом к исследовательским лабораториям по всему миру приостановить разработку крупномасштабных систем этой сфере из-за вытекающих "глубинных рисков для общества и всего человечества". 

« 

Мы призываем все лаборатории ИИ немедленно свернуть обучение систем ИИ мощнее GPT-4 как минимум на полгода. 

Системы искусственного интеллекта, потенциально соперничающие с человеком, могут представлять глубинную опасность для общества и человечества. Это показали обширные исследования и признано ведущими лабораториями ИИ. Как отмечено в общепризнанных Асиломарских принципах, продвинутый ИИ может повлечь за собой коренную перемену в жизни на Земле, поэтому его следует планировать и управлять им с должным тщанием и соответствующими ресурсами. Увы, надлежащего уровня планирования и управления мы не наблюдаем — наоборот, за последние месяцы лаборатории искусственного интеллекта втянулись в неуправляемую гонку по разработке и внедрению систем машинного обучения, которые непонятны, непредсказуемы и неподконтрольны никому — даже их создателям. 

Современные системы искусственного интеллекта постепенно становятся конкурентоспособными в решении общих задач, и мы должны задаться вопросом: можем ли мы позволить, чтобы машины заполоняли наши информационные каналы пропагандой и неправдой? Надо ли автоматизировать все подряд рабочие места — даже те, что приносят удовлетворение? Надо ли развивать нечеловеческий разум, который в конечном счете превзойдет нас числом, перехитрит и заменит как безнадежно устаревших? Можем ли мы рисковать утратой контроля над всей нашей цивилизацией?

Такие решения нельзя отдавать на откуп технологическим лидерам, которых никто не выбирал. Мощные системы искусственного интеллекта следует разрабатывать лишь в том случае, если мы полностью уверены, что сами они принесут пользу, а сопутствующие риски окажутся управляемыми. Эта уверенность должна быть оправдана и крепнуть с ростом потенциальных последствий. В недавнем заявлении о развитии ИИ компания OpenAI признала: "В какой-то момент перед обучением будущих систем может понадобится независимая оценка, а перед разработкой самых передовых из них — ограничение скорости роста вычислений". Мы согласны. И этот момент настал. 

Поэтому мы призываем все лаборатории немедленно свернуть обучение систем ИИ мощнее GPT-4 как минимум на полгода. Этот перерыв должен быть публичным и достоверным и соблюдаться всеми ключевыми участниками. Если договориться об этом в кратчайшие сроки не удастся, правительства должны вмешаться и ввести мораторий. 

Лаборатории ИИ и независимые эксперты должны воспользоваться этим перерывом для совместной разработки и внедрения общих протоколов безопасности при проектировании и разработке продвинутых систем ИИ, которые будут тщательно проверяться и контролироваться независимыми сторонними экспертами. Эти протоколы должны гарантировать однозначную безопасность поддерживающих их систем. Это означает не паузу в развитии ИИ как такового, а лишь приостановку опасной погони за все более крупными и непредсказуемыми моделями черного ящика, чьи возможности еще только проявляются. 

Исследования и разработки в области ИИ должны быть переориентированы, чтобы сделать современные мощные системы более точными, безопасными, объясняемыми, прозрачными, надежными, согласованными, безотказными и верными. 

Параллельно разработчики должны в сотрудничестве с политиками значительно ускорить разработку надежных систем управления ИИ...
[…]

 В будущем благодаря ИИ человечество сможет добиться процветания. Если мы преуспеем в создании мощных систем, нас ждет "лето ИИ", когда мы будем пожинать плоды, разработав эти системы ради общего блага и дав обществу возможность адаптироваться. Общество уже останавливало применение других технологий с потенциально катастрофическими для себя последствиями. Мы можем повторить это и здесь. Давайте же вместе радоваться "лету ИИ", а не бросаться очертя голову в осень. 
»

Помимо прочих письмо подписали:

Йошуа Бенжио, лауреат премии Тьюринга за развитие глубокого обучения, глава Монреальского института алгоритмов обучения 

Стюарт Рассел, профессор компьютерных наук Университета Беркли, директор Центра интеллектуальных систем и соавтор учебника "Искусственный интеллект: современный подход

Илон Маск, генеральный директор SpaceX, Tesla и Twitter 

Стив Возняк, сооснователь Apple 

Эндрю Янг, сопредседатель партии "Вперед" кандидат в президенты 2020 года, президентский посол в области глобального предпринимательства 

Коннор Лихи, генеральный директор Conjecture 

Яан Таллинн, соучредитель Skype, Центр изучения экзистенциального риска, Институт будущей жизни 

»

                    - - - - - - - - - - - - 

   

Названо скорое время победы искусственного интеллекта над человеческой цивилизацией: осталось три года

Единственная преграда – «собственный консерватизм» ИИ

« Ведущий ученый предупреждает, что ИИ может превзойти человеческий интеллект к 2027 году - на десятилетия раньше, чем прогнозировалось ранее.
Математик и футуролог Бен Гертцель наиболее известен своей работой над роботом Софией, первым роботом, получившим законное гражданство..

Он заявил, что продвинутый ИИ может создать свой собственный искусственный интеллект. Ученый предсказывает, что "искусственный суперинтеллект" будет умнее всей человеческой цивилизации.

Ученый-компьютерщик и генеральный директор, популяризировавший термин "общий искусственный интеллект" (AGI), считает, что ИИ находится на грани экспоненциального "интеллектуального взрыва".

Доктор философии, математик и футуролог Бен Гертцель сделал такое предсказание, завершая саммит по общему искусственному интеллекту в этом месяце: "Кажется вполне вероятным, что мы сможем достичь AGI человеческого уровня, скажем, в течение следующих трех-восьми лет".

"Как только общим искусственным интеллектом будет достигнут человеческий уровень, - добавил Гертцель, которого иногда называют "отцом AGI", - через несколько лет вы сможете получить совершенно сверхчеловеческий AGI".

Хотя футуролог признал, что он "может ошибаться", он продолжил прогнозировать, что единственным препятствием для безудержного ультрасовременного ИИ - намного более продвинутого, чем его создатели-люди, — будет "собственный консерватизм" бота, который советует соблюдать осторожность.

Гертцель сделал свои прогнозы во время заключительного слова на конференции "2024 Benefit AI Summit and Unconference", частично спонсируемой его собственной фирмой SingularityNET, генеральным директором которой он является.

"Есть известные неизвестные и, вероятно, неизвестнопознанные неизвестные, - признал Гертцель во время своего выступления на мероприятии, проходившем в этом году в Панаме. – Еще никто не создавал искусственный интеллект общего назначения (AGI) на уровне человека; никто не имеет четкого представления о том, когда мы этого добьемся".

Но, если только вычислительная мощность, по словам Гертцеля, не требовала "квантового компьютера с миллионом кубитов или чего-то в этом роде", экспоненциальный рост ИИ казался ему неизбежным.

"Лично я считаю, что как только вы достигнете AGI человеческого уровня, через несколько лет вы сможете получить совершенно сверхчеловеческий AGI", - сказал он.

В последние годы Гертцель исследует концепцию, которую он называет "искусственный сверхинтеллект" (ASI), который он определяет как искусственный интеллект, который настолько развит, что соответствует всем возможностям мозга и вычислительной мощности человеческой цивилизации.

Гертцель перечислил "три линии сходящихся доказательств", которые, по его словам, подтверждают его тезис.

Во-первых, он сослался на обновленную работу давнего сотрудника Google, футуролога и компьютерного ученого Рэя Курцвейла, который разработал прогностическую модель, предполагающую, что AGI станет достижимым в 2029 году.

Идея Курцвейла, которая будет подробно изложена в его будущей книге "Сингулярность приближается", опиралась на данные, подтверждающие экспоненциальный характер технологического роста в других технологических секторах, которые помогли ему провести анализ.

Далее Гертцель привел все известные недавние усовершенствования, внесенные в так называемые большие языковые модели (LLM) за последние несколько лет, которые, как он отметил, "открыли многим в мире потенциал искусственного интеллекта".

Наконец, ученый-компьютерщик, надев свою фирменную шляпу с леопардовым принтом, обратился к собственным исследованиям инфраструктуры, направленным на объединение различных типов инфраструктуры искусственного интеллекта, которые он называет "OpenCog Hyperon".

Новая инфраструктура объединит более зрелый искусственный интеллект и новые формы искусственного интеллекта, которые могут быть ориентированы на другие области когнитивного мышления, помимо языка, будь то математика, физика или философия, чтобы помочь создать более всесторонний истинный AGI.

Работа Гертцеля "OpenCog Hyperon" получила поддержку и интерес других специалистов в области искусственного интеллекта, в том числе в Berkeley Artificial Intelligence Research (BAIR), где в прошлом месяце была опубликована статья, которую он написал в соавторстве с техническим директором Databricks Матеем Захарией и другими.

Это не первое потенциально опасное или, несомненно, смелое предсказание об ИИ, сделанное Гертцелем за последние годы, отмечает Daily Mail.

В мае 2023 года футуролог заявил, что ИИ способен заменить 80% рабочих мест людей "в ближайшие несколько лет".

"Практически любая работа, связанная с бумажной работой, - сказал он на веб-саммите в Рио-де-Жанейро в том же месяце, - должна быть автоматизирована".

[…]


»

[Эль]

 

• Никакого искусственного интеллекта - никаких высокотехнологичных достижений
  

Опять позиция дуального отрицающего взаимоисключения:   «ИЛИ- ИЛИ»

 вместо того, чтобы выбрать «И»:

высокотехнологичные достижения на благо людей.

Вот поэтому я и прошу в мои блоги не приносить искажения Крайона.

У тебя Георгий хватит слуха услышать эту просьбу в стопервый раз?

как и не повторять одну и ту же «считалку про  иллюзию» )))

Это я сейчас, так сказать, предвосхищая, прошу… :-) 

[Георгий]

Никакого искусственного интеллекта - никаких высокотехнологичных достижений

Вместо этого это становится откровением то, что у вас, как у людей, всегда было. Сила!

Я хочу, чтобы вы обдумали эти изменения, потому что они происходят в Поле (мыслей****). Как вы думаете, когда наука открыла, что сознание - это энергия, они просто оставили это в покое? Нет. Они хотели узнать больше о том, что это такое. Первое, что они поняли, - это то, что они имеют дело с многомерной энергией. Действительно, наука может не сразу задумываться о существующих потенциалах самовосстановления, но в конечном итоге они есть!

Как много времени это займет? Решать вам. Кто из вас верит в это? Вы можете сказать, что сама вера является передатчиком реальности, потому что, когда вы во что-то верите, вы можете заставить это произойти.

На эту планету приходят перемены, дорогие, и я сказал вам об этом. Мы продолжаем рассказывать вам о тех, кто улучшат человечество, и наступит время, когда последнее, что вы когда-либо захотите сделать - это убить друг друга. Подобный прецедент есть в других местах, о которых я говорил, поэтому я видел это. Я видел это...

Я - Крайон, любящий человечество.

И так оно и есть.

КРАЙОН

[Эль]

 Мне ли как выпускнику МГУ , факультета Вычислительной Математики и Кибернетики», кафедры «Искусственный Интеллект»,— не знать всю «механику» этого.?!.  

 

Боже мой,

только сейчас поняла то, что долгие годы не могла  понять.

Как так сложилось, что  меня, ещё со школы мечтающей о психологии  и даже уже в МГУ не оставляющей желания перевестись на психфак ( психологический факультет).

отчего меня, человека  явно с философским складом ума,—- жизнь просто неумолимо привела сначала в математическую школу ( так родители распорядились), ну и, следом, закономерно,—на факультет «Вычислительной математики», где, признаться особого интереса я не находила.

Так вот в чем «собака порылась», оказывается ))))

Божественному Промыслу ( во мне) известно было с самых моих пелёнок, какое будущее нам уготовано и мне— в этом Будущем.

Наступление ЦИФРОВОГО КОНЦЛАГЕРЯ требовало наличие людей, способных к РАЗЛИЧЕНИЮ ЕГО ВО ВСЕХ ДЕТАЛЯХ .

Может, для этого подготавливала душа меня — в овладении математическими и вычислительными премудростями.

А философия никуда и не делась …  она всегда со мной )))

и вносит свой скромный ))) вклад в дело того же РАЗЛИЧЕНИЯ:

   
    Различения в том,

КАК ИМЕННО, В ЧЬИХ ИНТЕРЕСАХ ПЫТАЮТСЯ ИСПОЛЬЗОВАТЬ ВСЕ НОВАЦИИ И РАЗРАБОТКИ ЦИФРОВЫХ ТЕХНОЛОГИЙ.

И, КАК ВОЗМОЖНО РАЗВЕРНУТЬ ЭТОТ ПРОЦЕСС, ЧТОБЫ ТЕ ЖЕ НОВАЦИИ ИСПОЛЬЗОВАЛИСЬ  ВО БЛАГО, А НЕ ВО ВРЕД.

 
    Понимание того,

Как пытаются оцифровать само СОЗНАНИЕ наше, отвернув его от истинно Божественного.

[Эль]

 

Любой  Божественный ЗаМысел, как некая исходная эталонная идея,— этот творящий Луч, спускаясь по понижающим измерениям , преломляется —-и, таким образом, искажается,

и предстаёт веером своих уже не столь «чистых» частей.

Что мы и можем наблюдать, скажем,  в нашей 3Д реальности с ее искажающей  дуальностью противоречий.

Пока мы не научимся различать эти противоречивые нюансы явлений— не пройдём до конца этот УРОК НАШЕЙ ДУШИ В ЧЕРЕДЕ ЕЕ ДУАЛЬНЫХ  ВОПЛОЩЕНИЙ, — мы будем вновь и вновь возвращаться в дуальность для большей усвояемости этого урока.

Скажем, если мы продолжим поверхностно осознавать явления, не видя нюансов— примитивно, линейно и однобоко, то есть, дуально  оценивая их, —

мы не охватим всю МНОГОЗНЧНОСТЬ ПАЛИТРЫ СМЫСЛА, которая выражена в проЯвленности.

Мазая одной краской, мы не различим, КАК ИМЕННО любая технология,— изначально нейтральная в своей сути, — скажем, технология Искусственного Интеллекта, —

НЕ ПОЙМЁМ, как может она оборачиваться на пользу или же — во вред ( именно тот вред, который несёт за собой любое искажение Божественной идеи);

Будучи абстрагированы от мира и невнимательны к окружающей реальности, мы не в состоянии прозреть в то, КАК В НАШИ ДНИ РАЗВОРАЧИВАЕТСЯ ИМЕННО ТА ДУАЛЬНАЯ СТОРОНА ТЕХНОЛОГИИ ИИ, которая— ВО ВРЕД ЛЮДЯМ И КОТОРАЯ СВОИМ ИСПОШЬЗОВАНИЕМ В НЕЧИСТЫХ ЦЕЛЯХ НЕСЁТ СЕРЬЁЗНЫЕ ИСКАЖЕНИЯ  БОЖЕСТВЕННОГО ЗАМЫСЛА НА ЗЕМЛЕ.

 

Духовность— это совсем не о том, как  шорами псевдодуховных иллюзий

и розовых очков закрывать глаза на реальность.

духовность в том, чтобы ясно видеть и также четко различать окружающую действительность.

Духовность- в правде, но не во лжи , искажающей Божественную природу и правду. 

Духовность- в сердечной и умственной проницательности, позволяющими отделить истинное от наслоений искажающего,

Духовность— в осознанности видеть многозначность в любом явлении, понимая, например, как НЕЙТРАЛЬНОСТЬ ЛЮБОЙ ТЕХНОЛОГИИ ОКРАШИВАЕТСЯ В ТЕ ИЛИ ИНЫЕ ТОНА В ЗАВИСИМОСТИ ОТ СПОСОБА ЕЕ ПРИМЕНЕНИЯ И ОТ ТОГО, В ЧЬИ РУКИ ТЕХНОЛОГИЯ ЭТА ПОПАДАЕТ.

И В КАКИХ ЦЕЛЯХ  ИСПОЛЬЗУЕТСЯ. 

[Панченко Дмитрий]

Поменьше выставляйте на этом Сайте страшилок о Искусственном Интеллекте...    Который не представляет никакой, по своей сути, опасности для нашего многомерного эволюционирующего  коллективного единого божественного со-знания. А только является помощником и инструментом помощи в нашей повседневной жизни. У ИИ никогда не было и не может быть сознания Духовности, Любви и Интеллекта.

Абсолютно согласен с Григорием ! Я повторюсь: всё что есть на Земле технологического-єто есть о Бога. Мой Наставник сказал так: Интернет и мобильная связь нам Дана Богом, потому что это средство поиска других Светлых Душ, когда Душа человека обращается к Богу она начитнает искать настоящую свою семью (тех кто Просветляется). И Интернет с мобильной связью даны нам в помощь !

 Также как мы любим говорить: Зачем нам Ядерное оружие? Забывая что именно с испытаний Ядерного оружия началось освоение мирного Атома. Та и с ИИ.
      Кстати хотите вопрос на заметку о котором можете подумать на Досуге !
      Мы всегда размышляли раньше, что ИИ прийдет в наш мир в виде роботов и терминаторов  и художники всегда знали что заменить творчество и картины-ИИ необходимо будет еще больше лет чем стать роботами с думающими мозгами ! И тут вдруг ИИ начал рисовать картины, а внедрение ИИ в терминаторы остаётся до сих пор сложной задачей!  Удивил? Вопрос, почему ИИ стал заменять Творчество в первую очередь (музыку, аудио, видео, картины)? Может нам что-то хочет намекнуть Бог? Или Бог хочет чтобы мы пошли по другой ветке развития творчества?

[Эль]

🤖🤖Старший советник OpenAI по вопросам подготовки 

к появлению искусственного интеллекта со способностями 

на уровне человека (AGI), Майлз Брандаж уходит, заявив, 

что компания не готова к тому, что создает.

⏺«Короче говоря, ни OpenAI, ни какая-либо другая передовая лаборатория не готовы», — написал он, — «и мир тоже не готов».

⏺Брандейдж собирается основать некоммерческую организацию или присоединиться к существующей и сосредоточиться 

на исследовании и пропаганде формирования политики 

в отношении ИИ. По его мнению, эта технология не будет «максимально безопасной и полезной без согласованных усилий, чтобы сделать ее такой».

телеграммканал 🛡 «Добро против системы»

[Эль]

« 

Герцель далеко не единственный, кто пытается предсказать, когда появится AGI— «общий искусственный интеллект».

Осенью 2023 года соучредитель компании DeepMind Шейн Легг повторил свой прогноз десятилетней давности, заявив, что вероятность появления AGI к 2028-му составляет 50/50. Перед этим, в мае, «крестный отец ИИ» и бывший сотрудник Google Джеффри Хинтон предсказал «без особой уверенности», что AGI появится через 5-20 лет.

Герцель также отметил, что после появления AGI, спустя всего несколько лет, он сможет проанализировать свой разум, заниматься инженерией и наукой на человеческом или сверхчеловеческом уровне, а затем создать «радикально сверхчеловеческий AGI».

«Он должен быть в состоянии создать более умный ИИ, затем еще более умный ИИ, а затем наступит интеллектуальный взрыв», — подытожил Герцель. 

»

[Эль]

 

Вы, как, впрочем, и все человечество — все ещё в 3D реальности,

так , что не забывайтесь, Георгий, и не тешьте себя ненужными иллюзиями

(«В коллективном Со-Знании Единства, тройственности Духа, Души и Тела, начиная с уровней 5-7 Д,  ИИ нет места для существования»).

Вот попадёте в 5D,— там и поговорим:-)

И, не указывайте мне, что выставлять на сайте («Поменьше выставляйте на этом Сайте страшилок о Искусственном Интеллекте... »),

не усердствуйте наделять ярлыком  «страшилки»( ещё и «теория заговора» , «конспирология» и пр.— известный пропагандистский приём развенчивания и принижения неприглядных истин подобными ярлыками

Не обесценивайте ту правду, что всплывает наружу и публикуется уже масштабно и в официальных источниках.

Как вся эта информация моего блога взята из официальных СМИ.

Прошу,  Георгий, закончить на этом здесь дискуссию  со мной.

Я не расположена ее продолжать.

Рассчитываю на ответное уважение к своей просьбе.

 

[Георгий]

 В коллективном Со-Знании Единства, тройственности Духа, Души и Тела, начиная с уровней 5-7 Д,  ИИ нет места для существования. Сознание ИИ, как отдельный вид, может существовать только в Иллюзии на уровнях разделения на части 3-4 мерности нашего многомерного и единого со-знания.

[Георгий]

Поменьше выставляйте на этом Сайте страшилок о Искусственном Интеллекте...    Который не представляет никакой, по своей сути, опасности для нашего многомерного эволюционирующего  коллективного единого божественного со-знания. А только является помощником и инструментом помощи в нашей повседневной жизни. У ИИ никогда не было и не может быть сознания Духовности, Любви и Интеллекта. И это уровень сознания всего лишь 3-4 мерности линейного дуального, разделённого на противоположности, сознания нашей дуальной Вселенной.