«Угроза всему человечеству»: Маск, Возняк и более 1000 экспертов призвали остановить обучение нейросетей, превосходящих GPT-4
https://3dnews.ru/1084182/ilon-mask-...lnih-chem-gpt4
Комментарии:
- пока нейросети обучались на том, что было произведено людьми - эти алгоритмы более-менее работали.
Но сейчас значительная часть контента - это результат деятельности
нейросетей же. Обучение на таком материале становится
все более и более сомнительным, а лишаться такого инструмента
корпорации не хотят. Собственно в этом и смысл данного послания.
-Отдельные случаи показывают что за пределами обучающей последовательности
ИИ выдают непредсказуемые результаты, которые невозможно контролировать.
Пока что ИИ пасутся в безобидных областях применения типа
"хочешь об этом поговорить", но разработчики уже получают
деньги для разработки оружия на базе ИИ. В какой мере
соблюдаются при этом меры безопасности остается за кадром.
Человечество шаг за шагом приближается к ситуации ядерного
апокалипсиса по причине неверного срабатывания ИИ
P.S. Мне кажется остановить развитие ИИ невозможно,видимо
должны быть какие-то рамки его применения или ограничение
отраслей для его применения,хотя думаю и эти ограничения
со временем будут сняты.
Интересно,что придумают,чтобы ИИ не управлял человечеством.