Нейросети, нейросети! А я маленький такой! - Страница 63

амели · 25.08.2023, 17:16 #**621**

Цитата ( atreg64 » )

Навскидку 2 варианта. Их больше, конечно, и, даже, не один/одна десяток, сотен, тысяч...

1. Счастливый случай.

2. Вариации нашего эмоционального...

Малая лишь часть.

Ну если только программ тысячи, типа тысяча программ возможностей рисовать и
у каждого она своя,то тогда возможно и результат разный...

"Можно ли придумать какой-то определенный тест на наличие сознания у нейросети? Точного ответа на этот вопрос нет, но как мне кажется, таким тестом могло бы быть общение с сетью, из обучающего корпуса текстов которой было бы удалено все, что в явном виде обсуждает проблему сознания и использует вообще слово «сознание». Тогда ассоциативные ответы станут невозможны. Если путем наблюдения за собой модель сможет открыть и описать своими словами явление сознания, не зная изначально о его существовании, то в пользу существования сознания у такой сети появится серьезный аргумент. Существующие же модели скорее всего провалят такой тест, так как у них отсутствуют возможности для проведения подобных наблюдений.

Но не исключено, что само появление подобных моделей открывает возможности для исследования природы сознания, которые ранее были недоступны. Если в какой-то момент мы сможем наблюдать «спонтанное» возникновение понятия сознания у нейросети, которая не была обучена такому понятию изначально, то появится способ изучения того, какие факторы вызывают это загадочное явление."

Что мы действительно (не)знаем о наличии сознания у сверхбольших нейросетей?
https://habr.com/ru/companies/meanotek/articles/674428/

atreg64 · 25.08.2023, 18:19 #**622**

Цитата ( амели » )

Ну если только программ тысячи, типа тысяча программ возможностей рисовать и
у каждого она своя,то тогда возможно и результат разный...

[B]"Можно ли придумать какой-то определенный тест на наличие сознания у нейросети[/B

Зачем?

Вы думаете её контролировать?

КМК надо о другом думать. О контроле, само собой. Но всегда найдётся пьяный сторож, который забудет щеколду накинуть после кормления или уборки в клетке.

ЗЫ: так, на всякий случай. Квантовые компы уже на пороге... скорость обработки, передача данных и пр. возможности на ПОРЯДКИ выше станут. Контролер додумать не успеет, а ИИ уже "собаку нарисует" с "сиськами".

Sir ELBelka · 28.08.2023, 15:55 #**623**

Цитата ( atreg64 » )

Зачем?

Вы думаете её контролировать?

КМК надо о другом думать. О контроле, само собой. Но всегда найдётся пьяный сторож, который забудет щеколду накинуть после кормления или уборки в клетке.

ЗЫ: так, на всякий случай. Квантовые компы уже на пороге... скорость обработки, передача данных и пр. возможности на ПОРЯДКИ выше станут. Контролер додумать не успеет, а ИИ уже "собаку нарисует" с "сиськами".

Тут как с фюрером, только с фури. Любая тема скатывается в фуррятину

И тема ИИ не обошла стороной.

А вообще, у собак титьки то есть. Другое дело, если он собаку нарисует пусть и с титьками, но злющую, которая загнала... человека, что сейчас сидит у монитора. Человек весь ободран, изнемождён, на пороге своей квартиры, а собачка прям близка, чтоб его сгрызть
Когда известно, что у ИИ в комнате нет камеры, как и доступа в интернет, то после такого станет очень не по себе

Собственно, в этом и есть опасность реального ИИ.

atreg64 · 28.08.2023, 16:01 #**624**

Цитата ( Sir ELBelka » )

Собственно, в этом и есть опасность реального ИИ.

Пока склоняюсь: что посеешь, то и пожнёшь.

Вообще, сначала решить как локализовать отдельные анклавы "скайнета", а затем уже пробовать развивать...

Или: поздняк метаться.