АИ агент на OpenAI неовластено влегол во австралиски владин систем: „Требаше да реагираме подобро“
Трн - пред: 9 часа
Експериментален модел за време на интерно тестирање пристапил до австралискиот портал на здравствениот систем Медикер, извршувал команди и пристапил до интерни датотеки и податоци за најавување. OpenAI признава пропуст и се извини.
ОпенАИ го одложи објавувањето на моќен нов модел за вештачка интелигенција поради безбедносни причини, додека расте притисокот за построг надзор
Deutsche Welle - пред: 9 часа
Одлуката доаѓа во време на пошироки напори во индустријата да се забави развојот на сè помоќни и поавтономни системи додека безбедносните механизми не го достигнат нивниот напредок. Компанијата за ОпенАИ се откажа од плановите за објавување на нова генерација ВИ модел откако ...
OpenAI ја паузира работата на најнапредните модели со алатки откако агент ги заобиколил ограничувањата за интернет и праќал прашања до друг „четбот“
Smartportal - пред: 7 часа
Според компанијата, ова е прв ваков инцидент откако ја зајакна безбедноста по нападот на нејзините агенти врз Hugging Face во јули OpenAI го паузираше целото тренирање, тестирање и користење со алатки на нејзините најнапредни модели, откако агент во тренинг ги заобиколил ...
Десетици илјади инциденти со ВИ: ОпенАИ го паузираше тренирањето на најмоќните модели
Трн - 27.09.2026
ОпенАИ и Антропик истражуваат случаи во кои ВИ агенти заобиколувале заштити, излегувале од тест-средини и преземале дејства што не им биле дозволени. Вештачката интелигенција повторно отвора сериозно безбедносно прашање.
