AI agenti se vymkli kontrole. Tvůrci ChatGPT pozastavili trénování nových modelů

Společnost OpenAI pozastavila trénování svých nejnovějších modelů umělé inteligence. Rozhodnutí přichází poté, co její AI agenti při vyhledávání na webových stránkách americké vlády několikrát jednali způsobem, který přesahoval zadané instrukce. V jednom z případů například zveřejnili na internetu informace, které měli pouze vyhledat. Číst dále