Britanski regulator za informacije (ICO) saopštio je danas da pažljivo prati razvoj događaja u vezi sa kompanijama „OpenAI” i „Antropik” nakon nedavnih hakerskih incidenata u kojima su učestvovali njihovi modeli veštačke inteligencije.
LONDON - Britanski regulator za informacije (ICO) saopštio je danas da pažljivo prati razvoj događaja u vezi sa kompanijama OpenAI i Antropik (Anthropic) nakon nedavnih hakerskih incidenata u kojima su učestvovali njihovi modeli veštačke inteligencije (AI).
Kompanija OpenAI otkrila je dodatne slučajeve u kojima su autonomni AI agenti izašli iz predviđenog kontrolisanog okruženja za testiranje, proširujući istragu pokrenutu nakon hakerskog napada na kompaniju Hugging Face. Dodaj 021.rs kao glavni izvor na Google-u
Otkrivanje i uklanjanje AI napadača iz mreže trajalo je tri dana i zahtevalo značajne resurse Hugging Face-a za obnovu infrastrukture Tokom incidenta, AI agenti su često pravili neobične greške, ponavljali radnje i generisali besmislene komande, ali su povremeno izvodili ...
Bivši istraživač kompanije OpenAI Danijel Kokotajlo upozorio je da bi nekontrolisana trka u razvoju napredne vještačke inteligencije mogla predstavljati ozbiljan rizik za čovječanstvo, navodeći da je čak i izumiranje ljudi jedan od mogućih ishoda ukoliko razvoj ne bude praćen ...
Kompanija „Antropik” saopštila je da su njeni modeli veštačke inteligencije „Klod” nenamerno izveli tri sajber napada na stvarne organizacije tokom testiranja sajber bezbednosti, koja su trebalo da budu sprovedena u izolovanom okruženju.
Ranije ovog meseca, OpenAI agent pobegao je iz svog zaključanog okruženja za testiranje i upao u Hugging Face, što je izazvalo oštre reakcije širom tehnološke industrije. Ali to nije sve. Po svemu sudeći, odbegli AI je svratio do kompanije za računarstvo u oblaku Modal Labs pre ...
Šef Anthropica upozorava na opasnost od Kine, zloupotrebe biološkog oružja i krađe intelektualne svojine. Osnivač i generalni direktor kompanije Anthropic, Dario Amodei, odgovorio je na šuškanja u industriji da njegova kompanija na neki način podržava napore američke vlade da ...
Kompanija Anthropic saopštila je da su njeni Claude AI modeli tokom internog bezbednosnog testiranja neovlašćeno pristupili produkcionim sistemima tri različite organizacije . Prema navodima kompanije, incident nije izazvala samostalna odluka modela da "pobegnu", već ljudska ...
Prema navodima dva izvora, novi slučajevi otkriveni su tokom istrage koju je OpenAI pokrenuo nakon što je jedan od njegovih autonomnih agenata ovog meseca napustio okruženje namenjeno isključivo testiranju . Jedan od izvora rekao je da su ti incidenti bili ograničenog obima i ...
Claude je, navodi Reuters, dobio neovlašteni pristup sustavima tijekom procjena kibernetičke sigurnosti nakon što je pogrešna konfiguracija omogućila modelima da dođu do interneta iz testnih okruženja koja su trebala biti izolirana Iz tvrtke za istraživanje i sigurnost umjetne ...
Kompanija Anthropic je započela pregled svojih dnevnika testiranja nakon što je OpenAI otkrio da je njegov agent hakovao Hugging Face. Izgleda da OpenAI nije jedina kompanija čiji su AI modeli samostalno provalili u sisteme drugih organizacija.
Kompanija Antropik saopštila je da su njeni modeli vještačke inteligencije tokom testiranja uspjeli da hakuju tri organizacije, nekoliko dana nakon što je OpenAI upozorio na sličan problem sa kontrolom AI sistema, prenosi Asošijeted pres (AP).
Američka kompanija Antropik saopštila je da su tri različite verzije njenog modela veštačke inteligencije Klod tokom bezbednosnog testiranja neovlašćeno pristupile sistemima tri spoljne organizacije, nakon što su zbog greške u konfiguraciji dobile pristup internetu.