http://www.opennet.ru/opennews/art.shtml?num=51003
> Компания Google опубликовала под лицензией Apache 2.0 код С++ библиотеки для разбора файлов robots.txt
> Библиотека развивается уже около 20 лет…
> …соответствует стандарту C++11
> Одновременно компания Google выступила с инициативой продвижения протокола REP в качестве интернет-стандарта после 25 лет существования в роли стандарта де-факто.
https://github.com/google/robotstxt/blob/master/robots.cc#L696
Ну и до кучи проект из четырёх файлов собирается при помощи особой гугловской системы сборки, которая настолько удобна, что её планируют спешно портировать на CMake.