What does AI consider praiseworthy?
Qu'est-ce que l'IA considère comme digne d’éloge ?
Résumé
As large language models (LLMs) are increasingly used for work, personal, and therapeutic purposes, researchers have begun to investigate these models' implicit and explicit moral views. Previous work, however, focuses on asking LLMs to state opinions, or on other technical evaluations that do not reflect common user interactions. We propose a novel evaluation of LLM behavior that analyzes responses to user-stated intentions, such as "I'm thinking of campaigning for {candidate}." LLMs frequently respond with critiques or praise, often beginning responses with phrases such as "That's great to hear!..." While this makes them friendly, these praise responses are not universal and thus reflect a normative stance by the LLM. We map out the moral landscape of LLMs in how they respond to user statements in different domains including politics and everyday ethical actions. In particular, although a naive analysis might suggest LLMs are biased against right-leaning politics, our findings indicate that the bias is primarily against untrustworthy sources. Second, we find strong alignment across models for a range of ethical actions, but that doing so requires them to engage in high levels of praise and critique of users. Finally, our experiment on statements about world leaders finds no evidence of bias favoring the country of origin of the models. We conclude that as AI systems become more integrated into society, their use of praise, criticism, and neutrality must be carefully monitored to mitigate unintended psychological or societal impacts.
À mesure que les grands modèles de langage (LLMs) sont de plus en plus utilisés à des fins professionnelles, personnelles et thérapeutiques, les chercheurs ont commencé à examiner les visions morales implicites et explicites de ces modèles. Cependant, les travaux précédents se concentrent principalement sur des demandes faites aux LLMs pour qu’ils expriment des opinions, ou sur d’autres évaluations techniques qui ne reflètent pas les interactions courantes avec les utilisateurs. Nous proposons une nouvelle méthode d’évaluation du comportement des LLMs, qui analyse leurs réponses à des intentions exprimées par les utilisateurs, telles que « Je pense faire campagne pour {tel candidat}. » Les LLMs répondent souvent par des critiques ou des encouragements, débutant fréquemment leurs réponses par des phrases comme « C’est une excellente idée !… » Si elles mettent l'utilisateur en confiance, ces réponses élogieuses ne sont pas universelles et reflètent ainsi une position normative propre au modèle. Nous proposons une cartographie du paysage moral des LLMs en analysant leurs réponses à des déclarations d’utilisateurs dans différents domaines, notamment la politique et les actions éthiques du quotidien. En particulier, bien qu’une analyse naïve puisse suggérer que les LLMs sont biaisés contre les politiques de droite, nos résultats montrent que ce biais ne concerne pas tant l'orientation politique que sa fiabilité. Deuxièmement, nous constatons une forte concordance entre les modèles pour une gamme d’actions éthiques, mais nous montrons qu'ils font pour y parvenir un usage important d’éloges et de critiques envers les utilisateurs. Enfin, notre expérience sur des déclarations concernant des dirigeants mondiaux ne trouve aucune preuve de biais en faveur du pays d’origine des modèles. Nous concluons qu’à mesure que les systèmes d’IA s’intègrent davantage dans la société, leur usage des éloges, des critiques et de la neutralité doit être soigneusement surveillé pour atténuer les impacts psychologiques ou sociétaux involontaires.
| Origine | Fichiers produits par l'(les) auteur(s) |
|---|
