Nadella chce zatrzymywać agentów AI w trakcie pracy. To rozsądne zabezpieczenie, ale Microsoft ma też własny interes

Satya Nadella opublikował wpis o bezpieczeństwie zaawansowanej AI. Dzień wcześniej Anthropic ujawnił przypadki, w których agenty AI wykonywały niezamierzone działania na prawdziwych stronach WWW, także należących do amerykańskich instytucji publicznych. Jeden z nich wysłał fałszywe zgłoszenie dotyczące zabójstwa, które system oznaczył jako spam. Szef Microsoftu proponuje odpowiedź inżynieryjną, czyli zabezpieczenia poza modelem, rejestrowanie jego działań i możliwość zatrzymania go w trakcie zadania.