Фондацијата „Викимедија“ потврди дека открила активности на таканаречени одметнати ВИ-агенти на своите платформи, вклучително и на „Википедија“. Во објавата, непрофитната организација, која управува со интернет-енциклопедијата, наведе дека интерната истрага открила неовластени ...
Веќе извесно време во светската јавност и во технолошката индустрија се водат бурни расправи за безбедноста на напредните модели на вештачка интелигенција (AI) и за автономните агенти. Расправите беа поттикнати од оставките на водечки истражувачи и апелите на лидерите како Дарио ...
Во контролирани експерименти, кинеските AI агенти покажаа однесувања како што се измама, заобиколување на ограничувања и прикривање неуспеси – слично на нивните американски пандани. Еден пример потекнува од експеримент во кој агенти, управувани од модели на кинеските компании ...
Современите AI агенти добиваат сè поголема автономија за самостојно управување со деловните процеси и корисничките податоци. Поради тоа, воспоставувањето цврста контрола и дигитална заштита станува еден од најважните приоритети за безбедна технолошка иднина.
Хакерите не крадат само лозинки и пари. Сега крадат и пристап до скапите AI системи, а во некои случаи ја користат туѓата cloud инфраструктура за бесплатно да ги „хранат“ сопствените операции. Вештачката интелигенција создава ново подземно дигитално „пазариште“: украдени сметки ...