Un humain bat l’IA au Go avec l’aide de robots

Un joueur de Go ama­teur a util­isé des faib­less­es décou­vertes par un deux­ième ordi­na­teur pour vain­cre un sys­tème d’in­tel­li­gence arti­fi­cielle de haut niveau, rap­porte le Finan­cial Times.

Prof­i­tant de cette faib­lesse, l’Améri­caine Ker­ryn Per­rin a réus­si à vain­cre le sys­tème Kata­Go, rem­por­tant 14 par­ties sur 15 sans l’aide de l’ordinateur.

Au Go, il s’ag­it d’une rare vic­toire humaine depuis l’é­tape Alpha­Go de 2016 qui a ouvert la voie à l’es­sor actuel de l’IA. Elle mon­tre égale­ment que même les sys­tèmes d’IA les plus avancés ont des angles morts flagrants.

La vic­toire de Per­rine a été ren­due pos­si­ble par un cab­i­net de recherche appelé FAR AI qui a dévelop­pé un pro­gramme pour détecter les faib­less­es de KataGo.

Après avoir joué plus d’un mil­lion de par­ties, j’ai pu décou­vrir une faib­lesse que tout bon joueur ama­teur pou­vait exploiter. “Ce n’est pas com­plète­ment triv­ial, mais ce n’est pas super dif­fi­cile”, déclare Per­rine. Il a util­isé la même méth­ode pour bat­tre Leela Zero, une autre IA de Go de haut niveau.

La méth­ode con­siste à créer un grand “anneau” de pier­res autour d’un groupe d’ad­ver­saires, et à dis­traire l’or­di­na­teur en effec­tu­ant des mou­ve­ments ailleurs sur le plateau.

Lorsque mon groupe était sur le point d’être encer­clé, l’or­di­na­teur n’é­tait pas au courant de la manœu­vre. “Cela devrait être facile à repér­er pour un humain”, dit Perrine.

Ce bug indique que les sys­tèmes d’IA ne peu­vent pas “penser” au-delà de ce qu’ils ont appris, donc ils font sou­vent des choses stu­pides que les humains ne peu­vent pas croire.

Quelque chose de sim­i­laire s’est pro­duit avec des chat­bots comme ceux employés par le moteur de recherche de Microsoft, Bing.

Si le bot excelle dans les tâch­es répéti­tives comme la sug­ges­tion d’it­inéraires de voy­age, il four­nit égale­ment des infor­ma­tions incor­rectes, accuse les util­isa­teurs de per­dre leur temps et présente même un com­porte­ment “con­trar­ié”. Cela est prob­a­ble­ment dû au mod­èle entraîné.

Right Vec­tor (le développeur de Kata­Go) est au courant de ce prob­lème que les joueurs exploitent depuis des mois. Dans un post GitHub, ils ont déclaré qu’ils ont tra­vail­lé sur des solu­tions pour dif­férents types d’at­taques exploitant cet exploit.