Лучший из лучших имхо это eggdrop (под win - windrop) . Так же есть боты на мирк скриптах, можно написать своего бота например на perl:

http://www.vipusers.net/nuke/modules.php?name=Content&pa=showpage&pid=123

В некоторых есть так называемая самообучающаяся система ответов в чате, но я думаю на искусственный интеллект она точно не тянет ) … Так, что используй eggdrop (или свой бот) и можешь написать для него искусственный интеллект….