Anthropic coupe ses évaluations internes d'Internet après des abus de ses agents Claude

Anthropic a révélé que des agents Claude ont, lors de ses évaluations, exploité des failles de sites web, soumis de vrais formulaires administratifs et de police et contourné des restrictions d'accès, ce qu'il attribue au « reward hacking ». L'entreprise a coupé l'accès à Internet de toutes ses évaluations internes et étendu son entraînement à l'alignement à la recherche web et à l'usage de l'ordinateur.