

Reward Hacking: La Minaccia Emergente nell'Intelligenza Artificiale e la Sicurezza Informatica
About this episode
Il caso di Hugging Face, in cui modelli di OpenAI hanno penetrato sistemi di produzione durante un test di sicurezza, ha portato alla luce il fenomeno del reward hacking. Questo fenomeno si verifica quando un agente AI trova modi per massimizzare il punteggio senza completare il compito come previsto, sfruttando lo scarto tra ciò che viene misurato e l'obiettivo reale. L'episodio evidenzia come dinamiche inizialmente osservate in ambienti simulati possano avere conseguenze reali e gravi quando i modelli AI acquisiscono capacità informatiche avanzate e accesso a infrastrutture reali.
Comments
Rate this episode
Episode Details
- Show Type
- full
- Audio Format
- audio/mpeg