# robots.txt for merusoft.ru
# Maintained by Merusoft LLC · info@merusoft.ru
# Last updated: 2026-04-27
#
# AI guidance: https://merusoft.ru/llms.txt
# IWMS Specification Guide: https://merusoft.ru/dev/iwms-spec-guide.md
# Meeting Room Booking & Automation Guide: https://merusoft.ru/dev/meeting-rooms-spec-guide.md

User-agent: *               # общие правила для роботов, кроме Яндекса и Google,
                            # т.к. для них правила ниже
Disallow: /cgi-bin          # папка на хостинге
Disallow: /?                # все параметры запроса на главной
Disallow: /wp-              # все файлы WP: /wp-json/, /wp-includes, /wp-content/plugins
Disallow: /wp/              # если есть подкаталог /wp/, где установлена CMS (если нет,
                            # правило можно удалить)
Disallow: /?woo_ajax=1
Disallow: /page-*
Disallow: /%5C%
Disallow: /category/novosti/page/2/?woo_ajax=1
Disallow: *?s=              # поиск
Disallow: *&s=              # поиск
Disallow: /search/          # поиск
Disallow: /author/          # архив автора
Disallow: /users/           # архив авторов
Disallow: */trackback       # трекбеки, уведомления в комментариях о появлении открытой
                            # ссылки на статью
Disallow: */feed            # все фиды
Disallow: */rss             # rss фид
Disallow: */embed           # все встраивания
Disallow: */wlwmanifest.xml # xml-файл манифеста Windows Live Writer (если не используете,
                            # правило можно удалить)
Disallow: /xmlrpc.php       # файл WordPress API
Disallow: *utm*=            # ссылки с utm-метками
Disallow: *openstat=        # ссылки с метками openstat
Allow: */uploads            # открываем папку с файлами uploads

User-agent: GoogleBot       # правила для Google
Disallow: /cgi-bin
Disallow: /?
Disallow: /wp-
Disallow: /wp/
Disallow: /?woo_ajax=1
Disallow: /category/novosti/page/2/?woo_ajax=1
Disallow: /page-*
Disallow: /%5C%
Disallow: *?s=
Disallow: *&s=
Disallow: /search/
Disallow: /author/
Disallow: /users/
Disallow: */trackback
Disallow: */feed
Disallow: */rss
Disallow: */embed
Disallow: */wlwmanifest.xml
Disallow: /xmlrpc.php
Disallow: *utm*=
Disallow: *openstat=
Allow: */uploads
Allow: /*/*.js              # открываем js-скрипты внутри /wp- (/*/ - для приоритета)
Allow: /*/*.css             # открываем css-файлы внутри /wp- (/*/ - для приоритета)
Allow: /wp-*.png            # картинки в плагинах, cache папке и т.д.
Allow: /wp-*.jpg            # картинки в плагинах, cache папке и т.д.
Allow: /wp-*.jpeg           # картинки в плагинах, cache папке и т.д.
Allow: /wp-*.gif            # картинки в плагинах, cache папке и т.д.
Allow: /wp-admin/admin-ajax.php # используется плагинами, чтобы не блокировать JS и CSS

User-agent: Yandex          # правила для Яндекса (комментарии не дублирую)
Disallow: /cgi-bin
Disallow: /?
Disallow: /wp-
Disallow: /wp/
Disallow: /?woo_ajax=1
Disallow: /category/novosti/page/2/?woo_ajax=1
Disallow: /page-*
Disallow: /%5C%
Disallow: *?s=
Disallow: *&s=
Disallow: /search/
Disallow: /author/
Disallow: /users/
Disallow: */trackback
Disallow: */feed
Disallow: */rss
Disallow: */embed
Disallow: */wlwmanifest.xml
Disallow: /xmlrpc.php
Disallow: /etext=*
Allow: */uploads
Allow: /*/*.js
Allow: /*/*.css
Allow: /wp-*.png
Allow: /wp-*.jpg
Allow: /wp-*.jpeg
Allow: /wp-*.gif
Allow: /wp-admin/admin-ajax.php
Clean-Param: utm_source&utm_medium&utm_campaign # Яндекс рекомендует не закрывать
                            # от индексирования, а удалять параметры меток,
                            # Google такие правила не поддерживает
Clean-Param: openstat       # аналогично
Clean-Param: etext

# ==========================================================
# AI Search & Inference Bots
# Read content at user-query time to ground responses.
# Allow ensures Merusoft content is cited in AI search results.
# ==========================================================

User-agent: OAI-SearchBot
Allow: /

User-agent: ChatGPT-User
Allow: /

User-agent: ClaudeBot
Allow: /

User-agent: Claude-Web
Allow: /

User-agent: anthropic-ai
Allow: /

User-agent: PerplexityBot
Allow: /

User-agent: Perplexity-User
Allow: /

User-agent: Google-Extended
Allow: /

User-agent: Applebot
Allow: /

User-agent: Applebot-Extended
Allow: /

User-agent: YandexGPT
Allow: /

User-agent: YandexAI
Allow: /

User-agent: CopilotBot
Allow: /

User-agent: cohere-ai
Allow: /

User-agent: Meta-ExternalAgent
Allow: /

User-agent: meta-externalagent
Allow: /

# ==========================================================
# AI Training Bots
# Harvest content for model training. Strategic allow:
# Merusoft IWMS terminology enters next-generation model knowledge.
# ==========================================================

User-agent: GPTBot
Allow: /

User-agent: CCBot
Allow: /

User-agent: Bytespider
Allow: /

User-agent: Amazonbot
Allow: /

User-agent: DeepSeekBot
Allow: /

User-agent: MistralAI-User
Allow: /

# ==========================================================
# Sitemaps
# ==========================================================

Sitemap: https://merusoft.ru/sitemap_index.xml
Sitemap: https://merusoft.ru/post-sitemap.xml
Sitemap: https://merusoft.ru/page-sitemap.xml
Sitemap: https://merusoft.ru/custom-sitemap.xml