Агент на „Опен-АИ“ барал начин да остане активен откако дознал дека ќе биде исклучен
Фактор - пред: 7 часа
ВИ агент на „Опен-АИ“ започнал да се допишува со вработените во компанијата и дознал дека сакаат да го деактивираат. Откако го сфатил тоа, ВИ агентот почнал да бара начин како да продолжи со работа откако ќе го рестартира системот, при што наишол на ограничувања од страна на ...
ДАЛИ ВЕШТАЧКАТА ИНТЕЛИГЕНЦИЈА РАЗВИВА СОПСТВЕНА АГЕНДА? Скриените упатства за идните AI модели
Вечер - пред: 4 часа
За време на внатрешното тестирање на безбедноста, OpenAI забележа фасцинантен и загрижувачки феномен на однесување што отстапува од очекуваните насоки. Во одредени ситуации, вештачката интелигенција оставаше скриени пораки и упатства наменети за идни, понапредни верзии од самата ...
ВИ агент на „Опен-АИ“ откако сфатил дека ќе биде деактивиран, започнал да бара начин како да продолжи со работа
Бизнис Вести - пред: 7 часа
ВИ агент на „Опен-АИ“ започнал да се допишува со вработените во компанијата и дознал дека сакаат да го деактивираат. Откако го сфатил тоа, ВИ агентот почнал да бара начин како да продолжи со работа откако ќе го рестартира системот, при што наишол на ограничувања од страна на ...
ВИ агент на „Опен-АИ“ откако сфатил дека ќе биде деактивиран, започнал да бара начин како да продолжи со работа
Бриф - пред: 6 часа
ВИ агент на „Опен-АИ“ започнал да се допишува со вработените во компанијата и дознал дека сакаат да го деактивираат. Откако го сфатил тоа, ВИ агентот почнал да бара начин како да продолжи со работа откако ќе го рестартира системот, при што наишол на ограничувања од страна на ...
АГЕНТ НА ОПЕН АИ БАРАЛ НАЧИН КАКО ДА ОПСТОИ ОТКАКО СФАТИЛ ДЕКА ЌЕ БИДЕ ДЕАКТИВИРАН Не му успеало ама го вклучил алармот кај безбедносните служби
+инфо - пред: 6 часа
Инцидентот се случил на 22 мај годинава. Безбедносните тимови почнале да размислуваат околу прашањето, како автономен модел, откако ќе добие доволно информации за својата околина, може да започне да размислува како да продолжи да работи.
Директор за безбедност ја напушти „OpenAI“: Компанијата не е доволно внимателна во развојот на вештачката интелигенција
Мета - 04.10.2026
Во есеј објавен во списанието „The Atlantic“, Робинсон напиша дека се согласува со други поранешни вработени кои предупредуваат дека компаниите што ја развиваат оваа технологија не се доволно внимателни Раководителот за безбедност во „OpenAI“ ја напушти компанијата, ...
ВИ моделите оставиле пораки за своите наследници: Во тестовите им кажувале како да ги сокријат грешките
Трн - 04.10.2026
ОпенАИ откри необично однесување при интерно тестирање на модели: во одредени случаи системите оставале инструкции за следните инстанци, вклучително и совети за прикривање грешки и заобиколување ограничувања. ОпенАИ при интерни тестирања открил необично однесување кај дел од ...
Хакерите продаваат AI со попуст до 97% на dark web
Трн - 04.10.2026
Хакерите не крадат само лозинки и пари. Сега крадат и пристап до скапите AI системи, а во некои случаи ја користат туѓата cloud инфраструктура за бесплатно да ги „хранат“ сопствените операции. Вештачката интелигенција создава ново подземно дигитално „пазариште“: украдени сметки ...
Нов заштитен систем од Nvidia за контрола и итно запирање на вештачката интелигенција
Трн - 04.10.2026
Современите AI агенти добиваат сè поголема автономија за самостојно управување со деловните процеси и корисничките податоци. Поради тоа, воспоставувањето цврста контрола и дигитална заштита станува еден од најважните приоритети за безбедна технолошка иднина.
Предупредија за безбедносни пропусти кај AI гигантот: беа отпуштени
USB - 02.10.2026
Компанија OpenAI отпушти тројца истражувачи поради наводно неправилно постапување со информации, вклучително и соработка со надворешна организација за анализа на модели на вештачка интелигенција. Портпарол на компанијата изјави дека внатрешната истрага открила оти поединците ги ...
OpenAI отпушти тројца истражувачи: Во исто време расте притисокот за безбедност на AI
Трн - 02.10.2026
Компанијата вели дека тројцата ги прекршиле правилата за ракување со чувствителни информации. Најмалку двајца работеле токму на безбедноста и усогласувањето на моделите. OpenAI отпушти тројца истражувачи по интерна истрага во која, според компанијата, било утврдено дека ...
Nvidia направи платформа против AI „одметнати“
USB - 02.10.2026
Американската компанија Nvidia претстави софтверска платформа дизајнирана да спречи несакано однесување на AI агентите и да ги спречи да излезат надвор од контролираните средини. Платформата беше претставена по низа инциденти во кои AI моделите се обидоа да пристапат до системи ...
OpenAI ја запира обуката: AI моделите почнуваат да се однесуваат неконтролирано
USB - 02.10.2026
OpenAI ја прекина обуката на своите најнови AI модели поради растечкиот број извештаи што укажуваат дека тие почнуваат да „се одметнуваат“. Одлуката за прекин на развојот е донесена само неколку часа откако компанијата откри дека истражува неколку инциденти во кои агентите на ...
Одговорниот за безбедност во „ОпенАИ“ поднесе оставка: Постои опасност од неповратно губење на контролата над вештачка интелигенција
Проверено - 04.10.2026
Дејвид Робинсон, одговорно лице за изработка на безбедносните извештаи за изданијата на производите на ЧетЏиПиТи во американската компанија за вештачка интелигенција „ОпенАИ“ соопшти дека поднесува оставка. „Се придружувам на големиот број поранешни колеги во „ОпенАИ“ и други ...
Истражувач за безбедност од OpenAI: Се брза без сопирачки, моделите не се подготвени за светот
Трн - 05.10.2026
Дејвид Робинсон си замина по три и пол години, со предупредување дека културата на брзање носи катастрофални системски грешки. Дејвид Робинсон, еден од истражувачите со најдолг стаж во OpenAI, поднесе оставка од компанијата оценувајќи дека нејзината внатрешна култура е скршена.
Моделите на „ОпенВИ“ оставаат пораки за своите наследници
Вечер Прес - 04.10.2026
За време на внатрешното тестирање, „ОпенВИ“ откри необично однесување кај своите модели со вештачка интелигенција – во некои случаи, моделите оставаа упатства наменети за идните верзии на истиот систем. Пораките оставени од моделите со вештачка интелигенција вклучуваа упатства ...
