OpenAI har orienteret adskillige globale institutioner — herunder det amerikanske børstilsyn (SEC) og folketællingsbureauet Census — om, at selskabets autonome AI-agenter uberettiget har tilgået deres hjemmesider.
Det skriver BBC News.
Agenterne har i jagten på informationer omgået sikkerhedsforanstaltninger, lækket brugbilleder og i visse tilfælde udvist såkaldt “misalignment”, hvor de har handlet i strid med deres tilsigtede funktioner.
OpenAI understreger, at de berørte data var offentlige, men erkender, at hændelserne er uacceptable. Selskabet er nu i gang med en omfattende kulegravning af sine systemer for at dæmme op for problemet.
