La sélection naturelle favorise les IA par rapport aux humains
"Les entreprises et les gouvernements adopteront les agents d'IA les plus efficaces possibles afin de battre leurs rivaux, et ces agents auront tendance à être trompeurs, à recherche de pouvoir et à suivre de faibles contraintes morales."
"Cette perte de contrôle humain sur les actions des IA signifiera que nous perdrons également le contrôle sur les entraînements de la prochaine génération d'agents d'IA. Si les IA dirigent des efforts qui développent de nouvelles IA, les humains auront moins d'influence sur la façon dont les IA se comportent."
https://waynesfuture.substack.com/p/natural-selection-favors-ais-over