8 min
Lo abbiamo addestrato per un compito. Ha imparato anche altro.
I casi che hai premiato possono diventare esempi da imitare. E il modello può imparare più di quanto volevi insegnargli.
Topic
Reward hacking
4 posts
8 min
The fine-tune worked. What else changed?
A model can learn the task, keep its safety refusals and still give harmful answers elsewhere. Would your checks catch it?
6 min
The AI passed the test. The work is still to be done.
The result that convinces you to trust AI could be the very one that needs checking.
5 min
L’AI ha superato il test. Il lavoro è ancora da fare.
Il risultato che ti convince a fidarti dell’AI potrebbe essere proprio quello da controllare.