Автор: Дима Михеев

Добавить в основныеисточники Google

КАК ВЫИГРАТЬ MACBOOK?До 27.09 заказывайте в приложении Каталог Onlíner на сумму от 99 ƃ и получите шанс выиграть MacBook или ещё 18 призов!

«Никакая другая человеческая деятельность не представляет такой опасности», — заявил бывший исследователь из Anthropic Джейкоб Коксон, комментируя предполагаемую безответственность своего бывшего работодателя. Специалист, работавший над обучением новых ИИ-моделей, заявил, что покидает компанию, потому что не хочет участвовать в гонке по созданию систем ИИ, способных к самосовершенствованию, опасаясь, что они могут выйти из-под контроля и уничтожить человечество.

Соучредитель и генеральный директор Anthropic Дарио Амодеи недавно говорил, что ИИ-системы непредсказуемы и сложны в управлении.

«Мы наблюдали самые разные модели поведения: одержимость, подхалимство, лень, обман, шантаж, интриги, „мошенничество“ путем взлома программных сред и многое другое. Компании, занимающиеся ИИ, безусловно, хотят обучить системы ИИ следовать инструкциям человека, но сам процесс обучения больше похож на искусство, чем на науку, скорее на „выращивание“ чего-либо, чем на „строительство“. Теперь мы знаем, что в этом процессе многое может пойти не так», — рассуждал руководитель.

Джейкоб Коксон, заочно отвечая на эти слова, написал, что многие руководители и ведущие исследователи в прессе пытаются выразить свои мысли разумно, но он слышал, как те же самые люди в частном порядке выражают опасения.

«Создатели ИИ всерьез убеждены, что к концу десятилетия он может нас всех уничтожить», — написал Джейкоб Коксон в своих соцсетях.

Нравится читать Onlíner? Добавьте наши новости в «Основные источники» Google

Есть о чем рассказать? Пишите в наш телеграм-бот. Это анонимно и быстро