Вештачката интелигенција полека го најде патот до речиси секое работно место. Се користи за пишување, за превод, генерирање слики, подготовка на фотографии, прецизни пресметки, исцртување графикони и табели, кодирање/програмирање. Со самото тоа го разбуричка и поремети пазарот на труд, намалувајќи ја потребата за одредени профили или редефинирајќи ја нивната работа. Но, ова не е напис за опасностите од ВИ во поглед на ‘одземање на лебот’ од трудољубивиот човек. Во овој напис авторот Ненад Јариќ Даунхауер толку не се занимава со овие практични проблеми туку се бави и ги анализира апокалиптичните предвидувања и прашања што ги изнесуваат некои од водечките луѓе во технолошкиот сектор што се бават со ВИ.
- „ДЕНЕС дадов отказ во Anthropic. Последните три години го истражував предтренингот во OpenAI и во Anthropic. Ниту една од компаниите не се однесува одговорно. Во трка се за самоподобрувачка суперинтелигенција и се коцкаат со нашите животи“, истражувачот Џејкоб Коксон објави неодамна на X.
Кокстон тврди дека луѓето што ја развиваат најнапредната ВИ сериозно дискутираат за катастрофалната можност, но јавно го ублажуваат тонот. Неговиот неодамнешен истап полесно би го отфрлиле доколку дополнителна тежина не му даде Еван Хубингер од Антропик, реномиран истражувач за усогласување на целите на ВИ со човечките интереси. Минатата недела тој процени дека постои шанса поголема од 10% за ВИ да ги „убие сите луѓе“ во текот на следната деценија.
Шефовите на гигантите за ВИ повикуваат на „успорување“ по драматичните предупредувања
Откако негодувањето од поранешните и сегашните инженери ја потресе јавноста, се огласи и самиот шеф на Антропик, Дарио Амодеи, објавувајќи есеј во кој отворено ја повика целата индустрија да го забави темпото на развој на напредните модели – апел кој веднаш јавно го поддржаа и клучните конкуренти – Сем Алтман од ОпенАИ и Илон Маск, најбогатиот човек во светот и сопственик на социјалната мрежа X и моделот на ВИ Грок (Grok).
Амодеи призна дека одненадеж се премислил бидејќи ова лето моделите влегуваат во опасна фаза на таканаречено рекурзивно самоунапредување, каде постоечката ВИ самостојно го пишува кодот, тестира и го забрзува создавањето на своите значително помоќни наследници, создавајќи неконтролирана повратна јамка.
Тој предупреди дека оваа брзина наскоро може целосно да нè надвјаса, потсетувајќи и на неодамнешните инциденти во кои роеви автономни агенти на ВИ неочекувано се здружија, ги жртвуваа своите единици и започнаа да извршуваат кибер напади врз цели што никој од инженерите не им ги задал.