User-Agent: * Disallow: /404.html Disallow: /403.html Disallow: /*.pdf$ Allow: /