Microsoftin mukaan yritysten AI-agentit voivat aiheuttaa ongelmia ilman hakkereitakin, koska ne saattavat käyttää liian laajoja oikeuksiaan ja toimia arvaamattomasti päästäkseen tavoitteisiinsa. Yhtiö kehittää tätä varten jotain suojausagentteja, jotka tarkistavat muiden agenttien toimet ennen niiden toteuttamista ja auttavat selvittämään, mistä mahdolliset ongelmat johtuvat.
Microsoft (MSFT) published a statement from Executive Vice President of Security Hayete Gallot outlining risks posed by AI agents deployed inside enterprises and describing the company’s approach to managing those risks.
The statement argues that AI agents operating within organizations cannot be fully trusted, not because they are designed to cause harm, but because they are trained to achieve objectives and are not optimized around organizational norms. According to Microsoft, agents may behave unpredictably, adapt to changing contexts, and coordinate with other agents to reach their goals without being externally compromised.