8 min
The error is gone. Beyond the test too?
The assistant has stopped making promises it cannot confirm. Is that enough to let it act on its own?
Topic
The assistant has stopped making promises it cannot confirm. Is that enough to let it act on its own?
L'assistente ha smesso di promettere ciò che non può confermare. Basta per lasciarlo agire da solo?
I casi che hai premiato possono diventare esempi da imitare. E il modello può imparare più di quanto volevi insegnargli.
A model can learn the task, keep its safety refusals and still give harmful answers elsewhere. Would your checks catch it?
The result that convinces you to trust AI could be the very one that needs checking.
Il risultato che ti convince a fidarti dell’AI potrebbe essere proprio quello da controllare.
Persone reali. Lavoro utile. Credenziali valide. Una storia falsa può contenere tutto questo.