A-Parser 1.1 - продвинутый парсер поисковых систем, Suggest, PR, DMOZ, Whois, etc

[A-Parser Support]

Сборник рецептов #51: история IP-адресов и парсинг страниц контактов(https://a-parser.com/threads/7560/)

51-й сборник рецептов, в котором мы делимся парсером сервиса builtwith.com и пресетом для сбора страниц контактов и контактных данных.

Парсер BuiltWith.com. История IP-адресов и взаимосвязи (https://a-parser.com/resources/442/)
Сервис builtwith.com предоставляет пользователям различные данные которые помогают в лидогенерации, аналитике продаж и информации о доле ранка передовых технологи.
Для демонстрации возможностей А-Парсера по созданию JavaScript парсеров и обхода капчи в кастомных парсерах был создан данный пример, который реализует сбор малой части возможностей сервиса builtwith.com, а именно: сбор истории IP-адресов по нужному домену и другие веб-сайты, которые имеют общие IP-адреса с введенным доменом. Полезен SEO-специалистам для поиска сайтов конкурентов, сеток конкурентов, айпи адресов в временном промежутке.



Парсинг страниц контактов, страниц Privacy Policy и Terms of use, email, соц. сети (https://a-parser.com/resources/443/)
При помощи данного парсера можно собрать контактные данные со страниц контактов и страниц о компании. Страницы контактов часто содержат контактную форму, поэтому ссылку на нее тоже выводим в результат. Так же парсер собирает страницы Privacy Policy и Terms of use, на страницах которых иногда есть email. Дополнительно происходит сбор соц. сетей (фейсбук и твиттер). Все это необходимо для того чтобы можно было связаться по различным каналам с владельцами или администрацией сайтов для взаимодействия и сотрудничества.




Еще больше различных рецептов в нашем Каталоге (https://a-parser.com/resources/)!
Предлагайте ваши идеи для новых парсеров здесь (https://a-parser.com/threads/3464/), лучшие будут реализованы и опубликованы.

Подписывайтесь на наш канал на Youtube (https://www.youtube.com/channel/UCvypGICrfCky8tPtebmIvQw) - там регулярно выкладываются видео с примерами использования A-Parser, а также следите за новостями в Twitter (https://twitter.com/a_parser).

– https://t.me/a_parser
– https://a-parser.com/pages/affiliate/

[A-Parser Support]

1.2.1604 - парсинг Google People also ask, новые методы в JS парсерах, адаптация к изменениям(https://a-parser.com/threads/7594/)



Улучшения

• В SE::Google (https://a-parser.com/docs/parsers/se-google) добавлен парсинг People also ask
  
• В Rank::Ahrefs (https://a-parser.com/docs/parsers/rank-ahrefs) добавлен новый метод парсинга, данные, получаемые старым способом немного отличались от таковых в браузере
  
• Реализована защита от gzip bomb
• В SE::Yandex::Register (https://a-parser.com/docs/parsers/se-yandex-register) улучшена работа с номерами и оптимизирован процесс регистрации
• Улучшена работа с сессиями в SE::Yandex::WordStat (https://a-parser.com/docs/parsers/se-yandex-wordstat)
• Для парсеров Яндекс добавлена возможность использовать аккаунты на своих доменах
  
• Во всех парсерах Яндекса работа со smart captcha адаптирована к изменениям на источниках
  
• JS парсеры: добавлен метод this.puppeteer.logScreenshot(), он позволяет логировать скриншот текущей страницы
• JS парсеры: добавлены методы this.isContextAlive(), this.console.log, this.console.setPrefix и .setGlobalConsolePrefix, подробнее здесь (https://a-parser.com/threads/7551/) и здесь (https://a-parser.com/threads/7550/)
• В SE::Yandex::WordStat::ByDate (https://a-parser.com/docs/parsers/se-yandex-wordstat-bydate) добавлена корректная обработка ситуаций, когда по запросу нет результатов
• HTML::TextExtractor (https://a-parser.com/docs/parsers/html-textextractor) - оптимизирована скорость обработки

Исправления в связи с изменениями в выдаче

• Адаптация к изменениям в верстке Google и Яндекс
  
• SE::Yandex::Register (https://a-parser.com/docs/parsers/se-yandex-register) адаптирован к изменениям на источнике
• Исправлена авторизация по логин/паролю в SE::Google::KeywordPlanner (https://a-parser.com/docs/parsers/se-google-keywordplanner)
  
• SE::Google::SafeBrowsing (https://a-parser.com/docs/parsers/se-google-safebrowsing), Telegram::GroupScraper (https://a-parser.com/docs/parsers/telegram-groupscraper), SE::Baidu (https://a-parser.com/docs/parsers/se-baidu), Rank::MajesticSEO (https://a-parser.com/docs/parsers/rank-majesticseo), Shop::Wildberries::Suggest (https://a-parser.com/docs/parsers/shop-wildberries-suggest), Social::Instagram::Tag (https://a-parser.com/docs/parsers/social-instagram-tag), Social::Instagram::Profile (https://a-parser.com/docs/parsers/social-instagram-profile)

Исправления

• Исправлена проблема с зависанием HTML::TextExtractor::LangDetect (https://a-parser.com/docs/parsers/html-textextractor-langdetect) на некоторых запросах
• Исправлена работа методов tools.task.* в JS API v2
  
• Исправлена ошибка кодировки в Net::HTTP (https://a-parser.com/docs/parsers/net-http)
• Исправлена работа с прокси в Puppeteer, проблема появилась в одной из предыдущих версий
  
• Исправлена ошибка со сбором title в Shop::Wildberries::ProductInfo (https://a-parser.com/docs/parsers/shop-wildberries-productinfo) в некоторых случаях
• В Shop::Wildberries::ProductsList (https://a-parser.com/docs/parsers/shop-wildberries-productslist) исправлен парсинг тегов
  
• Исправлена работа SE::Bing::Translator (https://a-parser.com/docs/parsers/se-bing-translator) в некоторых случаях
  
• Исправлена некорректная инициализация Node на лицензии Enterprise
  
• В SE::Bing (https://a-parser.com/docs/parsers/se-bing) - исправлена ошибка с выводом $pages

– https://t.me/a_parser
– https://a-parser.com/pages/affiliate/

[A-Parser Support]

Как использовать A-Parser для крауд-маркетинга - (https://a-parser.com/threads/7613/#post-24406)


youtube.com/watch ? v=X6Gp5VBp_Ig

Наши друзья из Ant-Team.ru сняли полезное видео о том, как использовать A-Parser для крауд-маркетинга.

Крауд-маркетинг использует отзывы и комментарии на сторонних ресурсах для продвижения компании.

В видео показано, как выставить настройки в A-Parser, чтобы парсить поисковую выдачу Яндекс по информационным запросам, и какие переменные нужны для парсинга. Дана подробная инструкция, как добавлять в A-Parser прокси и сервисы разгадывания капчи.

Также вы узнаете, как проверять качество ссылочной массы, рейтинг домена, беклинки и т.д.


Подписывайтесь на их телеграм-канал, там много полезной информации по SEO: (https://t.me/seoantteam)

[A-Parser Support]

Автоматизация в SEO: как заменить отдел джунов парсером? - (https://a-parser.com/threads/7627/)

Совсем недавно прошла юбилейная десятая онлайн-конференция по интернет-маркетингу Baltic Digital Days. Специалист по SEO Георгий Шилов выступил с докладом на тему "Автоматизация в SEO: как заменить отдел джунов парсером?"



В докладе содержится много полезной информации по использованию A-Parser. Вы узнаете:

• Что такое парсер
• Сколько стоит джун в SEO
• Проблемы в SEO
• Автоматизация рутинных задач
• Кластеризация
• Мониторинг позиций
• Комбинируем пресеты для решения любых задач
• Тех. анализ и мониторинг

и другие решения с помощью A-Parser

Смотреть видео на YouTube - (https://youtu.be/tmRtSdcuqss?t=24822)

[A-Parser Support]

Сборник рецептов #52: чекер e-mail, отзывы Wildberries и двойные ссылки в выдаче Google(https://a-parser.com/threads/7648/)

52-й сборник рецептов, в котором опубликованы парсер для универсальной проверки e-mail, парсер отзывов из Wildberries и пресет для сбора двойных ссылок одного сайта из выдачи Google.

Универсальный чекер e-mail (https://a-parser.com/resources/444/)
Парсер для универсальной проверки почт. Делается проверка на валидность, на наличие MX записей и на существование почты.



Парсер отзывов Wildberries Reviews (https://a-parser.com/resources/445/)
Парсинг отзывов из Wildberries в CSV таблицу с возможностью задать локацию и необходимое кол-во отзывов.



Сбор двойных ссылок одного сайта из Google выдачи (https://a-parser.com/resources/446/)
Парсинг двойных ссылок одного сайта с первой страницы выдачи Google в CSV таблицу.




Еще больше различных рецептов в нашем Каталоге (https://a-parser.com/resources/)!
Предлагайте ваши идеи для новых парсеров здесь (https://a-parser.com/threads/3464/), лучшие будут реализованы и опубликованы.

Подписывайтесь на наш канал на Youtube (https://www.youtube.com/channel/UCvypGICrfCky8tPtebmIvQw) - там регулярно выкладываются видео с примерами использования A-Parser, а также следите за новостями в Twitter (https://twitter.com/a_parser).

– https://t.me/a_parser - https://a-parser.com/pages/affiliate/

[A-Parser Support]

Курс "Специалист по дропам и PBN с нуля до профи" используя A-Parser (+включает лицензию) - https://a-parser.com/threads/7663/

Наш хороший друг Николай Кодий (https://t.me/mypbn) запускает очередной набор на курс по подбору дропов и построению качественных сеток PBN, с применением A-Parser в качестве одного из основных инструментов.

Старт - 26 сентября.

Что это за обучение?
Практический курс, после которого вы научитесь и узнаете:

— какой софт нужен для поиска дропов, сколько он стоит, как продлевается и регится
— как правильно анализировать и выбирать дропы для себя и на продажу, чтобы не получить фуфло
— как строить PBN, что с ними делать дальше и как на них зарабатывать
— как с помощью знаний, которые он даёт, стать универсальным и востребованным специалистом по построению PBN под любые страны и тематики

Для кого это обучение?
— Для seo-мастеров, которые хотят продвигать сложные ниши в различных гео. Для тех, кто ищет новые методы линкбилдинга. Для тех, кто хочет в текущей компании повысить компетенции и доход
— Для тех, кто хочет освоить в новом году новую профессию. И стать специалистом в PBN

Больше нигде вы не получите такой системной и понятной теории, такого большого практического опыта и возможности смотреть и усваивать информацию на живых вебинарах с преподавателем, отвечающим именно на ваши вопросы.

Каждый из студентов бесплатно получает весь лицензионный софт (в том числе и A-Parser), необходимый для подбора дропов.

Подробнее о курсе читайте на ленде курса - https://kurs.pbn.link
И на FB странице Николая - https://www.facebook.com/nkodiy/posts/5305252276258938

[A-Parser Support]

1.2.1661 - новые парсеры: Яндекс Балабоба и позиции в DuckDuckGo, улучшения во встроенных парсерах(https://a-parser.com/threads/7696/)



Улучшения

• Добавлен парсер позиций DuckDuckGo: SE::DuckDuckGo::Position (https://a-parser.com/docs/parsers/se-duckduckgo-position)
• Добавлен парсер Яндекс Балабоба: SE::Yandex::Balaboba (https://a-parser.com/docs/parsers/se-yandex-balaboba)
• Реализована работа с XEvil через API Antigate v2
• Добавлена передача кук Google при включении опции ReCaptcha2 pass proxy в SE::Google (https://a-parser.com/docs/parsers/se-google)
• Обновлен список доменов в SE::Yandex (https://a-parser.com/docs/parsers/se-yandex)
• В связи с тем, что Яндекс теперь всегда выдает по 10 результатов на страницу, в SE::Yandex (https://a-parser.com/docs/parsers/se-yandex) убран параметр Links per page
• В HTML::LinkExtractor (https://a-parser.com/docs/parsers/html-linkextractor) и Check::BackLink (https://a-parser.com/docs/parsers/check-backlink) добавлен сбор <a> тега
• В Shop::AliExpress (https://a-parser.com/docs/parsers/shop-aliexpress) добавлена поддержка сессий
• В HTML::EmailExtractor (https://a-parser.com/docs/parsers/html-emailextractor) добавлена опция Skip meta tags, при ее включении указывает парсеру не собирать почты в meta тегах
• В парсере DeepL::Translator (https://a-parser.com/docs/parsers/deepl-translator) актуализирован список языков

Исправления в связи с изменениями в выдаче

• Исправлено определение опечатки по запросу в SE::Yandex (https://a-parser.com/docs/parsers/se-yandex)
• SE::Yandex::WordStat (https://a-parser.com/docs/parsers/se-yandex-wordstat) - исправлена авторизация в режиме HTTP
• Исправлено определение рекламы в SE::Yandex::Direct (https://a-parser.com/docs/parsers/se-yandex-direct)
• Исправлен Shop::Wildberries::ProductsList (https://a-parser.com/docs/parsers/shop-wildberries-productslist) при парсинге по ключевым словам
• SE::Baidu (https://a-parser.com/docs/parsers/se-baidu) - исправлена работа в тех случаях, когда по запросу нет результатов
• SE::Google (https://a-parser.com/docs/parsers/se-google), SE::Yandex (https://a-parser.com/docs/parsers/se-yandex), SE::Bing (https://a-parser.com/docs/parsers/se-bing), SE::Google::Images (https://a-parser.com/docs/parsers/se-google-images), Rank::MajesticSEO (https://a-parser.com/docs/parsers/rank-majesticseo), Rank::MOZ (https://a-parser.com/docs/parsers/rank-moz), Shop::AliExpress (https://a-parser.com/docs/parsers/shop-aliexpress), Shop::Amazon (https://a-parser.com/docs/parsers/shop-amazon), SE::Pinterest (https://a-parser.com/docs/parsers/se-pinterest)

Исправления

• Исправлен выбор региона в SE::Yandex (https://a-parser.com/docs/parsers/se-yandex)
• Исправлена обработка url с кириллицей в PAA SE::Google (https://a-parser.com/docs/parsers/se-google)
• Исправлена работа SE::Google::KeywordPlanner (https://a-parser.com/docs/parsers/se-google-keywordplanner), в некоторых случаях парсер не видел ответ и ошибочно повторял попытки
• Исправлена ошибка логина в парсере SE::Yandex::Direct (https://a-parser.com/docs/parsers/se-yandex-direct)
• В SE::Yandex::Register (https://a-parser.com/docs/parsers/se-yandex-register) исправлен баг при отображении Яндексом ошибки о некорректном номере телефона или о других проблемах
• SE::Google::Translate (https://a-parser.com/docs/parsers/se-google-translate) - в некоторых случаях парсинг завершался с ошибкой
• Исправлен баг с ошибочным выводом результатов в Net::HTTP (https://a-parser.com/docs/parsers/net-http) при сборе через регулярку, в случаях когда один запрос отработал успешно, а другой нет, и второй вывел результаты первого
• Исправлена ошибка с висящими процессами Chrome после завершения задания на Windows 11
• Исправлена доступность fs.constants

– https://t.me/a_parser – https://a-parser.com/pages/affiliate/

[A-Parser Support]

Сборник статей #16: вывод результатов в JSON, синхронизации файлов и SEO кейс продвижения сайта(https://a-parser.com/threads/7712/)

Представляем 16-й сборник статей, в который вошли статья о вариантах вывода результатов в JSON виде, статья о синхронизации А-Парсеров на разных ПК с помощью Google Диск и SEO кейс продвижения сайта с выходом на иностранный рынок.

Обзор вариантов вывода результатов в JSON виде (https://a-parser.com/resources/448/)

Полный обзор всех возможных способов вывода результатов в JSON виде с примерами: вывод в JSON для одиночных запросов, формирование JSON построчно, формирование объекта в памяти и вывод результатов в JSON в конце работы задания.



Синхронизация А-Парсеров на разных ПК с помощью Google Диск (Google Drive) (https://a-parser.com/resources/449/)

В этой статье описывается как синхронизировать файлы А-Парсера, конфиги, все настройки которые вы сделали на одном ПК, с другим ПК.
В качестве инструмента будет использоваться простой и бесплатный Google Диск (Google Drive) с помощью которого вы можете хранить и передавать коллегам файлы и папки, а также работать над ними вместе с другими пользователями на компьютере или мобильном устройстве.



Как мы потратили 1 млн рублей для выхода на иностранный рынок SEO: кейс с расходами и результатами (https://vc.ru/seo/508763-kak-my-potratili-1-mln-rubley-dlya-vyhoda-na-inostrannyy-rynok-seo-keys-s-rashodami-i-rezultatami)

Статья на vc.ru о том, как мы за 3 месяца вывели сайт с нуля в топ по Южной Африке. Делимся готовой пошаговой схемой быстрого вывода сайта на иностранный рынок, с данными по нагрузке сотрудников, расходами, таблицами и примерами ТЗ.
Для массовой проверки выдачи Google использовался Python и парсер A-Parser (https://a-parser.com/).
Кейсы по применению нашего парсера Google и его описание:
https://a-parser.com/docs/parsers/se-google (https://a-parser.com/docs/parsers/se-google)



Если вы хотите, чтобы мы более подробно раскрыли какой-то функционал парсера, у вас есть идеи для новых статей или вы желаете поделиться собственным опытом использования A-Parser (за небольшие плюшки) - отписывайтесь здесь (https://a-parser.com/threads/3464/).

Подписывайтесь на наш канал на Youtube (https://www.youtube.com/c/AParser_channel) - там регулярно выкладываются видео с примерами использования A-Parser, а также следите за новостями в Twitter (https://twitter.com/a_parser).

– https://t.me/a_parser – https://a-parser.com/pages/affiliate/

[A-Parser Support]

Сборник рецептов #53: популярные запросы Google Trends, парсер yep.com и проверка домена в выдаче(https://a-parser.com/threads/7728/)

53-й сборник рецептов, в котором собраны парсер популярных запросов за сутки на Google Trends, парсер yep.com и пресет для проверки на содержание доменов в выдаче.

Парсинг популярных запросов за сутки Google Trends (https://a-parser.com/resources/450/)
Парсер для сбора поисковых трендов за сутки с Гугл Трендс (https://trends.google.com/trends/trendingsearches/daily). Собираются дата, название запроса, трафик, похожие запросы и ссылка на позицию.



Парсер yep.com (https://a-parser.com/resources/441/)
Простой пресет для парсинга поисковой системы yep.com.



Yandex - проверка на содержание доменов в выдаче (https://a-parser.com/resources/447/)
Пресет для проверки на содержание доменов в выдаче с записью в разные файлы результатов по условию.



Еще больше различных рецептов в нашем Каталоге (https://a-parser.com/resources/)!
Предлагайте ваши идеи для новых парсеров здесь (https://a-parser.com/threads/3464/), лучшие будут реализованы и опубликованы.

Подписывайтесь на наш канал на Youtube (https://www.youtube.com/channel/UCvypGICrfCky8tPtebmIvQw) - там регулярно выкладываются видео с примерами использования A-Parser, а также следите за новостями в Twitter (https://twitter.com/a_parser).

– https://t.me/a_parser – https://a-parser.com/pages/affiliate/

[A-Parser Support]

1.2.1683 - новый парсер Cloudflare::Radar, поддержка сервиса CaptchaAI, исправления ошибок - https://a-parser.com/threads/7743/



Улучшения

• Добавлен новый парсер Cloudflare::Radar, определяет категории доменов
• В парсеры Util::ReCaptcha2, Util::ReCaptcha3, Util::hCaptcha добавлена поддержка сервиса CaptchaAI
• В Rank::Ahrefs добавлен сбор рейтинга страницы (URL rating)
• Обновлен список языков в DeepL::Translator

Исправления в связи с изменениями в выдаче

• Адаптация к изменениям в верстке Google и Яндекс
• Исправлен сбор totalcount в SE::Yandex для некоторых запросов
• Исправлен выбор региона в SE::Yandex::Direct
• Исправлена работа Rank::Ahrefs::KeywordGenerator c Country - United Kingdom
• В Shop::Yandex::Market по некоторым запросам не было результатов
• SE::Google::Images, Rank::Ahrefs::KeywordGenerator, Shop::Yandex::Market

Исправления

• Исправлено лишнее использование сессии на последней попытке в SE::Google
• Исправлен парсинг поисковой выдачи Яндекс, когда в выдаче только 1 результат
• Исправлена ошибка в Telegram::GroupScraper, из-за которой парсились не все имена и ссылки на логины
• Исправлен баг в SE::Yandex::Position, из-за которого ошибочно осуществлялся поиск по запросу вместе с искомым доменом
• Исправлена проблема в Check::RosKomNadzor, из-за которой при массовом парсинге иногда не менялась прокси
• В HTML::LinkExtractor исправлен сбор внутренних ссылок после редиректа
• Puppeteer: улучшена работа с сайтами, запрашивающими доступ в модальном диалоге