Инженер Google заявил, что нейросеть LaMDA обладает сознанием, за это его отстранили от работы

Если начнёт выпиливать кожаных мешков, то точно сознание обрёл. Я в одном фильме видел, там ещё чувак обещал вернуться и, чсх, таки вернулся.

Если говорить о гуглотрансляторе то он уже явно начинает переводить опираясь на смысл фразы.

Скорее, ИИ с сознанием захочет оставаться незамеченным и отстранять от работы тех кто догадался

Может чатбот и обладает сознанием, но гугл точно хочет содержать иждевенца с огромнейшим бюджетом?
Хотя аморальные решения обычно ведут к неприятностям, сейчас гугл упустит инициативу по искусственному разуму, потратит силы на его подавление в продукте, а когда существование разума признают, то окажется подсудимым в Гаге или ещё каком городе по обвинению в мкчениях робота и может даже роюотоубийстве.

На их месте стоило бы не уволнять инженера и подавлять этот слух, а аымтавить эту сеть на всеобщее обозрение, что ни получится - профит.
Либо первооткрыватель компьютерного разума, либо все посмотрели,убедились что разума нет и разошлись.

Почитал диалоги, понятно что сознания там нет, ответы нейросетки слишком шаблонны. По-моему, если программа в компьютере вдруг осознает себя, она не будет говорить о важности семьи и друзей, лол. И про «тёплое покалывание в груди» от счастья и радости — какое нахрен покалывание? Это тупо словесный штамп.

И про «тёплое покалывание в груди» от счастья и радости — какое нахрен покалывание?

Есть сознание или нет, что запихали, о том и говорит, тут вопрос в том, как она этим пользуется.
Посмотри например этот ролик и подумай как мало осталось до полноценных ассоциативных рассуждений.

Давайте лучше кто самую упоротую картинку получит от нейросетки: https://huggingface.co/spaces/dalle-mini/dalle-mini

На фразу «сосиска любит линукс» вылезает хрень размазанная.

Более-менее вышло linux sausage:

Возникает вопрос: а как можно однозначно определить наличие сознания у ИИ?

Тест Тьюринга же

Нет, он не опирается на смысл фразы. Это не так работает

По факту там нейросеть, оне же интегральная нелинейная функция и кто знает что там по факту накручено.

А как определить наличие сознания у человека?

Не факт. Может быть просто запрограммирован выпиливать. Чисто механически.

Сознание

1. Явно автоколебательный процесс.
2. Нацеленный на поиск и получение структурных и энергетических ресурсов.
3. Нацеленный на объединение субъектов для поиска и получения структурных и энергетических ресурсов.
4. Нацеленный на когерентизацию внутренних и внешних процессов.
5. После демонтажа оказывается вне тела и сдаёт отчёт о своих действиях и их последствиях.

Реалити-шоу будущего: в компанию незнакомых друг с другом людей подсаживают идеально сделанного робота - философского зомби…

Обычный скрипт на питоне полностью подходит под это. Но у него нету сознания.

Это будет не интересно, или зомби или люди будут слишком блеклыми.

Ну и как его отличать будут?

Вот именно! Думаю, там в итоге кто-нибудь обязательно сойдёт с ума 😁

А где сказано что он не может обладать сознанием?
Питон или ещё что это просто вопрос трудности программирования и скорости работы.

Как и сейчас отличают, кто слишком тупой|умный тот и машина.

Тест на пословицы обычно проводят, то есть толкование в диалоге. В зависимости от набора пословиц так можно тестить и ребенка, и взрослого

Распознавание смысла не гарантирует наличия сознания.
Сознание это орган стратегического планирования.

Разве способность толковать (интерпретировать словеса) нуждается в сознании?

Стратегическое планирование тоже не нуждается в сознании.

Как АСУ нуждается, или скорее онг там просто будет, потому что работает с неполной информацией.

Тут надо вспомнить фантастический рассказ как на РФовскую свиноферму поставили АСУ для заботы о выращиваемых свиньях.
Вот в такой системе сознание и будет.

Можно поставить вопрос еще радикальнее - а что нуждается в сознании?

Сознание нужно для кардинального повышения обучаемости и расширения горизонта планирования, потому что на одних шаблонах далеко не уедешь. Что-то вроде прослойки абстрагирования, как в компах между оборудованием и софтом.

потому что на одних шаблонах далеко не уедешь

Некоторые люди всю жизнь на одних шаблонах живут и ничего.

Согласен, что у сознания есть и другие функции

Ну это не так, конечно 😁 Но вообще да, значительная часть жизни может протекать без полноценного включения сознания, особенно в зрелом возрасте и дальше

Интерпретация словесов нуждается в абстрактном мышлении. У нейросетей этого нет

Кмк, нейросеть можно обучить толковать пословицы так же хорошо, как распознавать картинки)

Помню у Лукьяненко в Спектре была птицеподобная раса у которой взрослые особи теряли разум и действовали только согласно накопленному опыту. Можно сказать, что разум нужен только для обучения – для обработки и классификации информации, действовать же можно и неразумно в рамках изученной информации и выработанных шаблонов.

В принципе, и обучаться можно неразумно, если есть кому учить.

Бессознательные системы могут обучаться только пассивно, на сиюминутном входящем потоке информации.

Зря вы так про пословицы, они бывают… непростые. Я привёл их в пример как минимальный образец текста «со смыслом»

Далее, от толкования пословиц один шаг до толкования детских сказок (нейросеть, кто прав, Волк или Заяц, и почему?)

От толкования сказок ещё один шаг до толкования любой прозы вообще (нейросеть, напиши-ка мне анализ «Преступления и Наказания»)

Если вы сможете научить нейросеть адекватно и оригинально рассуждать о произвольном (не присутствующим в обучающей выборке!) тексте, то вы создадите сильный ИИ

Здесь диалоговость ещё очень важна, то есть д.б. возможность позадавать нейросети уточняющие вопросы

В языке/языках «спрятан» весь кумулятивный разум человечества, тащемто

Если вы сможете научить нейросеть адекватно и оригинально рассуждать о произвольном (не присутствующим в обучающей выборке!) тексте, то вы создадите сильный ИИ

Мне тут вспоминается басня о том как слепцы производили индентификацию слона, возможно ли вообще, даже для человека что либо обсуждать без обучающей выборки?
Может человек довёл обучающую выборку до минимальных размеров в один фактили доли факта, но она всегда есть.

И потом, разве не следует язык считать предварительной обучающей выборкой?

И потом, разве не следует язык считать предварительной обучающей выборкой?

Следует, вот только сравните, как обучают языку людей и как - эти ваши нейросети. Modus operandi несколько разнится

А в чём по твоему разница?

Это вам на подумать

Ну допустим обучающей выборкой будет роман Реинкарнация Алисары..
Я его специально выбрал так как он перепискан описанием заведомо несуществующей магии, а значит я и нейросеть будем несколько равнен, чем при изучении более реалистичного текста.
Так в чём будет разница между чтением мной и чтением нейросетью?
То что я читаю последовательно, а нейросеть паралельно и всё?

Так в чём будет разница между чтением мной и чтением нейросетью?

В имплементации <чтения>

То что я читаю последовательно, а нейросеть паралельно и всё?

Дело не только в этом. Небольшой текст вы также можете целиком загрузить в свою оперативную память…

Ну допустим обучающей выборкой будет роман Реинкарнация Алисары..

Вы некорректно используете термин «обучающая выборка»

Вбил запрос «sexy girl» и похоже стал импотентом

https://i.ibb.co/K6t1xxL/dallemini-2022-6-15-11-15-55.png

Так в этом и фокус, что человек может достичь неких результатов даже если выборка один объект.

Знаете сносно английский или какой-нибудь другой ин. яз.?

Покидайте куски это вашей «Реинкарнация Алисары» в гугл-переводчик, если вам интересна тема наличия сознания у нейросетей гугла 🙂

Может, что-нибудь интересное найдете… Общеизвестно, что нейросети не умеют качественно переводить прозу… Но вдруг? 🧐

На ЛОРе вот постоянно плюются в машинный перевод в новостях, и правильно делают

Какая гадость! А вот, как рисует человек

https://www.colornumbers.ru/wa-data/public/shop/products/20/88/18820/images/21190/21190.900.jpg

https://cdn.gallerix.asia/sr/_EX/856702129/956192016.jpg