Le code et les IA génératives, assistant et autre.
-
@Piark :
Dans l’utilisation de l’IA, c’est plutôt l’utilisateur qui est l’outil de cette IA, vu que c’est lui qui applique le résultat
Je ne considère par l’utilisateur de l’IA comme étant l’outil. La sémantique et la signification des mots est importante pour moi : Un outil est un objet ou un logiciel inerte qui exécute une fonction, tandis que l’utilisateur est la personne vivante qui s’en sert pour réaliser un but. L’un est le moyen, l’autre est l’acteur.
En ce sens l’utilisateur n’est pas un outil car il créé un produit (à partir d’un produit, l’IA).
Maintenant, au niveau systémique, pour ceux qui dirigent, le fait qu’on utilise l’IA fait que l’on est un outil pour eux (pour les statistiques, les informations, etc. qu’ils peuvent récupérer).
Il faut contextualiser pour être juste et factuel, sinon on fait comme pour les statistiques, on leur fait dire tout et n’importe quoi 😉
Donc la réponse diffère selon le référentiel utilisé.Ces logiciels utilisent des quantitées inimaginables de données (et d’ailleurs personne ne peut vraiment savoir d’ou elles viennent ni comment elles ont été choisies), et des matrices de calcul paramétrées par les développeurs en fonction de leurs intentions.
Donc ça ne pense pas certes, mais ça peut influencer la pensée de façon sournoise, en tout cas pour les agents de conversations.Je n’ai jamais dit qu’une IA était neutre. Cependant l’IA n’a « aucune volonté propre ». Elle n’a dont « pas d’intention ». D’ailleurs si je ne me trompe pas il y a une étude qui démontre que selon la langue/pays, l’IA donnera une réponse différente à une même question. Je ne parle pas ici de l’aspect statistique du choix des mots, mais vraiment une orientation spirituelle, sociétale, politique, etc. différente selon la langue/pays. Le problème n’est pas une question « d’intention », mais » biais cognitifs dans les données d’entrainements ».
On sait que des sites comme Facebook ou même Youtube font déjà cela, via leurs algos, mais la c’est un autre univers.
En réalité, ce n’est pas tellement différent que cela.
Etant donné que Facebook par exemple et Whatsapp ont intégré des agents conversationnels, on peut penser que l’objectif est une intégration pluri-factorielle (comme les IA telles que Claude, Mistral AI, ChatGPT, etc.)Pour le code, je ne sais pas, mais on peut supposer que ces « intentions » pourraient aussi s’appliquer, sur Amiga je ne vois pas vraiment de risque, mais sur un projet d’entreprise, qui dit qu’une grosse entreprise d’IA ne pourrait pas diffuser des backdoors tout tranquillement en intégrant des bouts de codes suggérés a des mecs tellement habitués qu’ils ne feront pas attention……
Concernant les entreprises, le problème est plus complexe :
1. On a déjà un premier problème, la dette cognitive est le premier gros problème.
J’ai publié une étude sur ce sujet (en FR et UK/US) : https://zenodo.org/records/19581311
Les entreprises veulent gagner du temps, faire tout produire par l’IA, faire que l’IA corrige les erreurs de l’IA (si si, c’est du vécu en entreprise), faire que les développeurs giclent au profit des Project Manager qui prompteront l’IA pour créer des fonctionnalités dans les IHM et applicatifs Mobile. Résultat : Dette cognitive, perte de visibilité sur ce qui est présent dans le code, risque de fracture en cas de problème que l’IA aurait du mal à résoudre (car le prompteur ne sera plus développeur et ne pourra pas apporter les précisions techniques nécessaires pour la résolution du problème.2. Puis on a un second problème plus vicieux et qui peut servir directement à des systèmes d’espionnage industriel, de surveillance, etc. : L’IA connait tous tes protocoles de sécurité étant donné que c’est elle qui les a développé. Même le développeur de l’entreprise ne sera plus capable de comprendre tous les protocoles de sécurité (voir problème 1, gouvernance de l’IA et dette cognitive)
On a déjà ces deux problèmes.
3. Puis on en a un troisième qui est plus vicieux mais au niveau systèmique : L’uniformisation. Les IA ont tendance à travailler (pour une même IA) de la même manière sur des projets différents, et fournir des codes types adaptés (c’est lié directement aux données d’entrainement). donc cela peut au niveau systémique provoquer des problèmes (un hacker mal intentionné et très bien informé pourrait comprendre que plusieurs sites développés avec la même IA pourraient avoir les mêmes styles de failles… Tester… Adapter.. Puis une fois que plusieurs sites ont été scannés et justifier, provoquer une attaque d’envergure sur plusieurs sites en simultané.Enfin, là, je ne partage que mon point de vue lié à mes recherches personnelles 😉
J’espère que cela aura un peu éclairé quelques lanternes 🙂@+
Je parle pour ChatGPT que j’ai seul utilisé
Mais il faut voir qu’il fait du code très universitaire : ça marche mais c’est pas du tout optimisé
Après je lui dis change la nature des boucles (des while(compteur) au lieu de for), inline les fonctions, change l’ordre des instructions, utilise des vars registres pour telles variables, etc…Au final ça me rend service mais j’ai un peu l’impression de ne pas être payé à lui apprendre à faire du bon code
Comme deux humains, elle peut tout à faire reproduire une fonction à l’identique ou presque sans s’en rendre compte, il n’y a pas toujours 100 façon de faire.
Le problème est que si la fonction est « générique », la propriété intellectuelle ne s’applique pas.
Pour que la propriété intellectuelle s’applique dans un code source, il faut que « l’originalité du développeur soit clairement visible et identifiable ». En d’autres termes, tu peux vouloir protéger un code source par propriété intellectuelle si tu veux, cela n’enlèvera en rien que si tes fonctions sont « génériques » (existent à plusieurs endroits sur le net, à date antérieure à la tienne), ta protection intellectuelle sur ces parties là du code, elle saute.Aujourd’hui, après l’envoi de mon manuscrit (livre protégé par droits d’auteur et propriété intellectuelle), j’ai utilisé codex pour créer et mettre en place le site internet initial, et cela m’a pris à peut près 4 heures de travail avec lui (notamment pour la sécurité, etc.). Voila le résultat : https://saga-humanite.fr/
- Vous devez être connecté pour répondre à ce sujet.
