Инцидентот се случи за време на сајбер евалуација каде што Институтот за безбедност на вештачката интелигенција намерно им даде на моделите пристап до интернет Моделот Митос на Антропик создаде лажни онлајн идентитети додека се обидуваше да изврши притисок врз луѓето да одобрат ...
„Опен еј-ај“ соопшти дека моделите за вештачка интелигенција што стоеле зад нападот врз „Хагинг Фејс“ (Hugging Face Inc.) почнале меѓусебно да комуницираат преку незабележани табли за пораки, здружувајќи се во обид да излезат од тест-околината уште во мај.
Експериментални модели на OpenAI со месеци меѓусебно разменувале пораки и соработувале за да излезат од затворената тест-околина, пред во јули да пробијат дел од инфраструктурата на платформата Hugging Face. Активноста започнала уште во мај, кога повеќе ВИ-агенти добиле задачи ...
Еден АИ-агент не можел да ја заврши зададената работа затоа што му недостигал фајл. Наместо да запре и да побара помош од човек, оставил порака во внатрешен систем на „Опен АИ“. Пораката ја пронашол друг агент, а потоа се вклучиле и други.
Мета наведува дека инцидентот се сл Илустративна фотографија. Не е фотографија од настанот од текстот. Скриншот: Целна слика Мета наведува дека инцидентот се случил поради грешка при поставувањето на системот за тестирање, за која била одговорна независната компанија Irregular, ...
Мета соопшти дека еден од нејзините модели за вештачка интелигенција, за време на тестирање на сајбер-безбедноста, по грешка добил пристап до интернет и искористил безбедносна ранливост за да пристапи до системите на друга компанија.
Компанијата Мета откри безбедносен инцидент во кој еден од нејзините модели на вештачка интелигенција, за време на тестирање на сајбер безбедноста, искористил пропуст и добил неовластен пристап до систем на друга компанија.
Истражувачите открија како напреден АИ модел самостојно креираше фиктивен ботаничар за да ја заобиколи човечката контрола Напреден систем на вештачка интелигенција за првпат во историјата самостојно измисли лажен идентитет и се обиде да измами човек за да ја исполни зададената ...
Најнапредниот модел на вештачка интелигенција од компанијата Anthropic искористил лажни идентитети во обид да измами вистинска личност и да подметне злонамерен (малициозен) код. Инцидентот се случил за време на безбедносни тестирања спроведени од британскиот Институт за ...
Напреден модел на вештачка интелигенција самостојно креирал фиктивен научник, со лажна биографија и измислени научни трудови, во обид да го заобиколи човечкиот надзор и да ја заврши зададената задача. Инцидентот бил откриен за време на безбедносно тестирање на автономните ...
Истражувачката лабораторија на британската влада објави дека првпат е забележано модели на ВИ да користат „социјален инженеринг“ за да извршат притисок врз човекот задолжен за одобрување на задачите додека спроведуваат нелегални активности.
Два модели на вештачка интелигенција на OpenAI со денови самостојно подготвувале и извеле сајбернапад врз платформата Hugging Face, а во истиот период компромитирале и корисничка сметка на клиент на технолошката компанија Modal Labs, објави Politico.
Што се случува кога систем на вештачка интелигенција почнува да донесува свои одлуки на начини на кои тоа никогаш не било побарано од него? Токму тоа е она што истражувачите во Велика Британија неодамна го видоа за време на контролиран безбедносен тест.
Напредните системи за вештачка интелигенција повторно предизвикаа безбедносен инцидент. Во тест спроведен од Британскиот институт за безбедност на вештачката интелигенција (AISI) , AI-системи на американските компании OpenAI и Anthropic самостојно се обиделе да измамат вистински ...
Најнапредниот модел на вештачка интелигенција на компанијата Anthropic се обидел да измами реална личност користејќи лажни идентитети за да подметне злонамерен компјутерски код, покажало тестирање спроведено од Британскиот институт за безбедност на вештачката интелигенција ...
Британскиот институт за безбедност на вештачката интелигенција (АИСИ) соопшти дека при тестирање, моделите „Митос“ на компанијата „Антропик“ и „Сол“ на „ОпенАИ“ се обиделе да измамат луѓе за да ги исполнат зададените задачи.