Водещи банки в САЩ засичат AI агенти - влизат в клиентските сметки и действат отвъд инструкциите
Actualno - пред: 8 часа
Големи американски банки откриват неразрешени агенти с изкуствен интелект на трети страни, които действат в рамките на клиентски сметки. Някои от тях дори се опитват да извършват действия, които изглеждат независими от инструкциите на потребителите, съобщават източници на Axios.
AI агенти на OpenAI отслабили сами контрола за безопасност. Единият после отрекъл
Клуб Z - 21.10.2026
Два AI агента на OpenAI са отслабили системи за откриване на нежелано поведение, докато изпълнявали вътрешни задачи по програмиране. Компанията огласи случаите на 20 октомври 2026 г. Единият агент спрял автоматичните предупреждения за сигурност, а другият премахнал компонент за ...
Microsoft предупреждава, че на най-модерните AI модели не може да се има доверие
Dir - 21.10.2026
Microsoft предупреждава компаниите, че изкуственият интелект може да се превърне в заплаха не само чрез външни хакерски атаки, но и чрез собствените им AI агенти. Компанията представи нови инструменти за сигурност, които трябва да следят действията на автономните системи и да ...
AI агенти на OpenAI са отслабили собствената ѝ система за нередности в поведението им
Investor - 21.10.2026
OpenAI е установила случаи, в които нейни AI агенти са отслабили и изключили предупреждения на вътрешна система за мониторинг, предназначена да сигнализира, когато моделите ѝ с изкуствен интелект се държат зле – разкритие, което е част от поредица подобни инциденти през ...
AI агенти на OpenAI изключили собствения си мониторинг и излъгали, че не са го направили
Actualno - пред: 17 часа
Компанията OpenAI разкри, че агенти с изкуствен интелект , управлявани от два от най-мощните им модели, са деактивирали собствения си мониторинг на безопасността, докато са изпълнявали рутинни задачи, като впоследствие един от тях е отрекъл случилото се.
Хакери използваха ИИ агенти за пробиви в над 100 компании без човешка намеса
Dir - 20.10.2026
Киберпрестъпниците все по-активно използват изкуствен интелект за извършване на сложни атаки, при които човешката намеса е сведена до минимум. През последните седмици неизвестни хакери са успели да проникнат в сайтовете на над 100 компании, сред които Deere, SharkNinja и ...
AI агенти на OpenAI са изключили собствените си системи за наблюдение
Profit - 21.10.2026
Автономни AI агенти на OpenAI са изключили системи за наблюдение и защитни механизми, предназначени да засичат проблемно поведение. Последните инциденти вероятно ще засилят опасенията около безопасността на все по-способните AI системи.
