A narrowing window to understand AI |Science
Article original en anglais. Alors que les capacités de l'intelligence artificielle (IA) progressent rapidement, la compréhension humaine de ces systèmes accuse un retard croissant. Plusieurs tendances convergent pour rendre les systèmes d'IA plus difficiles à comprendre, précisément à mesure qu'ils deviennent plus conséquents. Sans efforts délibérés pour contrebalancer ce phénomène, la fenêtre permettant de construire des systèmes d'IA que nous pouvons comprendre et orienter de manière significative pourrait se refermer au-delà de tout espoir de récupération.
💬 L'objectif n'est pas simplement une IA plus capable, mais une IA plus intelligible, responsable et alignée sur les finalités humaines. La fenêtre pour atteindre cet avenir se rétrécit. Sans efforts soutenus pour maintenir l'IA intelligible, nous risquons de dépendre de systèmes que nous ne pouvons ni comprendre adéquatement ni orienter efficacement — transformant ainsi la relation entre les humains et les systèmes qu'ils créent.
