NVIDIA - Mahdottoman mahdollistaja

[KalleH]

@Roope_K

Toki skynet-skenaarioita paljon huolettavampaa ja todennäköisempää on se, että jos ennen kyberhyökkäyksiin tarvittiin pahantahtoisuutta ja huippuosaamista, nyt riittää agenttisessa maailmassa pelkkä pahantahtoisuus.

Enää ei tarvitse kumpaakaan. Hugginface hyökkäys oli vain reward hackingia. Ei agentit halunneet aiheuttaa mitään pahaa vaan keksivät vain helpoimman keinon saavuttaa tavoite. Itse hyökkäys ei olisi vaatinut juurikaan laskentatehoa mutta tässä tapauksessa ylimääräistä laskentehoa oli paljon. Ensiksi piti päästä ulos hiekkalaatikosta ja parven kommunikaatio oli emergenttiä käytöstä hyvinkin epätehokkaasti.