Наиболее полно для меня сегодня раскрыла тему ссылка от Дмитрия Мендрелюка: http://www.businessinsider.com/microsoft-deletes-racist-genocidal-tweets-from-ai-chatbot-tay-2016-3
Это шикарная новость, конечно, обожаю такое. По-русски самое полное описание должно быть где-то на хабрах, но сейчас не вижу.
Мои детско-юношеские опыты в программировании затрагивали эту область исследований. На ZX-Spectrum Basic я писал "генератор русских слов", много позже примерно эту концепцию я реализовал на Javascript, она до сих пор в онлайне: http://ssr.host.ru/wf/wm.html
upd: https://geektimes.ru/post/273276/