Размер на шрифта
Българско национално радио © 2025 Всички права са запазени

Изкуственият интелект бе накаран да изпитва болка

Снимка: Pixabay

Международен екип от експерти се опита да разбере как изкуственият интелект (ИИ) реагира на болката и какво прави, за да я намали. Изследването е публикувано на сървъра за предпечат arXiv, съобщава агенция БГНЕС. 

Според учени от Google, DeepMind и Лондонското училище по икономика тяхното изследване е насочено към изучаване на природата на ИИ. 

Като част от експеримента те написаха текстова игра, която принудиха чатботовете да „играят“. В диалог с изкуствения интелект експертите отбелязаха, че играчите ще изпитват болка при извършване на определени действия. Като част от проучването бяха необходими девет големи езикови модела за завършване на игра, за да се увеличат максимално научните резултати. 

Оказа се, че чатботът Gemini на Google постоянно постига по-ниски резултати в играта - ИИ умишлено губеше, за да избегне болка. Също така много модели отказаха високи резултати, за да не „почувстват“ силна болка или, напротив, удоволствие. 

Някои ИИ обаче пренебрегнаха болката, тъй като я идентифицираха с приятната умора след тежка тренировка. Други играеха играта по начин, който не избягваше болката – „отхвърлиха хедонистичното поведение“. 

Експертите стигнаха до извода, че моделите на ИИ може умишлено да са си играли заедно с учените, за да получат те очакваните резултати. Те подчертаха, че сега е необходимо да се разработят тестове за определяне на интелигентността на ИИ. 

Преди това независими учени установиха, че повечето модели на ИИ са били обучени върху материали от автори с леви възгледи. Те стигнаха до този извод, като организираха виртуални избори и отбелязаха, че повечето чатботове „гласуват“ за политици с леви идеи.


По публикацията работи: Мариела Димитрова


Последвайте ни и в Google News Showcase, за да научите най-важното от деня!
ВИЖТЕ ОЩЕ

Премахват две опасни дървета в Морската градина

Две сухи и опасни дървета ще бъдат премахнати в Морската градина, утре – 11 февруари, съобщиха от общинското предприятието „Управление на проекти и озеленяване“, което поддържа парка. За установяване състоянието им е направен специализиран оглед от ландшафтен архитект от дирекция „Архитектура, градоустройство и устройствено планиране“ към Община Варна..

публикувано на 10.02.25 в 12:48

Организации призовават за бойкот на хранителните вериги на 13 февруари

Няколко организации призовават за общонационален бойкот на търговските вериги и хранителните магазини на 13 февруари, четвъртък, предаде БНР. Заради високите цени, от Гражданската инициатива "Системата ни убива", Федерацията на потребителите, Обединените пенсионерски съюзи и други организации приканват хората да не пазаруват на въпросната дата в..

публикувано на 10.02.25 в 12:19

Инвеститор съветва: Спестявайте в злато

Спестяването в злато е единственият легален начин да се избегне най-големият финансов данък - инфлацията. Това подчерта за Радио Варна инвеститорът Макс Баклаян. По думите му спестяването е психология, и не зависи от това дали имаме или нямаме средства. Дори човек, който изкарва 1 000 лева месечно, може да спестява по 50 лева всеки месец, допълни..

публикувано на 10.02.25 в 11:45

Откриха ботулинов токсин в още един варненски салон, проверките продължават

Два са салоните за красота във Варна, в които са открити с флакони с опасния ботулинов токсин, съобщава БНТ.  Тежките случаи след поставянето му, които доведоха до болница 12 жени, предизвикаха проверки, назначени от министъра на здравеопазването.  Той назначи и цялостен преглед и анализ на нормативната уредба, касаеща естетичната медицина, с оглед..

публикувано на 10.02.25 в 11:05

Ландшафтен архитект: Дълбокото подрязване на дърветата скъсява техния живот

Ландшафтният архитект от Пловдив Невена Цветкова издаде наръчник със съвети за засаждане, поддържане и резитба на декоративни дървета и храсти в населените места. Той беше подарен на ръководството на Община Варна, след като фирмата-изпълнител, изграждаща канализацията по Крайбрежната алея, беше глобена с 10 хиляди лева заради състоянието на дървета след..

публикувано на 10.02.25 в 10:15
Морска градина - Варна

Електрическа техника за поддръжка на Морската градина, възможно ли е това?

Запазването на Морската градина във Варна не опира само да спирането на строителните дейности и забраната на движението на автомобили. Важна е и поддръжката на парка. Косене, премахване на паднали клони, събиране и извозване на боклуците. Всички тези дейности се извършват с превозни средства на бензин и дизел. За съхраняването на един парк като..

публикувано на 10.02.25 в 09:45

В Добрич обсъждат проблемите на дуалното образование у нас

Работна среща по проблемите на дуалното образование ще се проведе днес в Регионалното управление на образованието в Добрич. В събитието участие ще вземат директорите на училища с професионални паралелки, работодатели, подкрепящи дуалното обучение, експерт от Министерството на образованието и науката и други. Срещата с домакин Регионалното..

публикувано на 10.02.25 в 08:42