Después de este título para expertos, vamos a explicar la sencillez del asunto.
El robots de búsqueda de Yahoo!, Slurp, desde hace un par de días lee en los robots.txt caracteres del estilo “*” (asterisco). Esta funcionalidad sólo servía para Google, por lo que si querías filtrar o hacer experimentos con los robots, era complicado que fuera compatible con todos.
User-Agent: Yahoo! Slurp
Allow: /public*/
Disallow: /*_print*.html
Disallow: /*?sessionid
Disallow: /*.gif$
Allow: /*?$