L'IA N'EST PAS NEUTRE, BORDEL.
Vous utilisez des IA "opensource" ou "openweights" ? C'EST DU MARKETING. Vous ne savez pas ce que contient votre IA.
Mais vous avez le choix, hein :
- utiliser les IAs appartenant aux milliardiares fachos.
- utiliser les IA "gratuites" des Chinois.
Youpi \o/ des IAs gratuites.
Mais savez-vous ce qu'elles contiennent ?
Non.
Et là on a un exemple mesuré : Les IAs chinoises écrivent du code plus faible du point de vue sécurité si vous vous présentez comme un occidental.
Vous vous présentez comme un contractant américain ? Le code a 19% de risques de plus d'être piratable.
Vous vous présentez comme un défenseur de la démocratie de HongKong ? Le code a 27% de risques de plus d'être piratable.
Et dans certains cas les pourcentages montent beaucoup plus haut.
Oui, ces modèles ont des alignements non neutres.
Les modèles "openweight" sont tous de gigantesques boîtes noires.
EDIT: De plus, potentiellement, ces modèles font fuiter vos données !
https://cohere.com/blog/concerning-behaviour-popular-open-weight-ai-model