Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

new spider São Sebastião/SP #1075

Open
wants to merge 1 commit into
base: main
Choose a base branch
from

Conversation

almeidadm
Copy link
Contributor

AO ABRIR um Pull Request de um novo raspador (spider), marque com um X cada um dos items do checklist
abaixo. NÃO ABRA um novo Pull Request antes de completar todos os items abaixo.

Checklist - Novo spider

  • Você executou uma extração completa do spider localmente e os dados retornados estavam corretos.
  • Você executou uma extração por período (start_date e end_date definidos) ao menos uma vez e os dados retornados estavam corretos.
  • Você verificou que não existe nenhum erro nos logs (log_count/ERROR igual a zero).
  • Você definiu o atributo de classe start_date no seu spider com a data do Diário Oficial mais antigo disponível na página da cidade.
  • Você garantiu que todos os campos que poderiam ser extraídos foram extraídos de acordo com a documentação.

Descrição

Os boletins podem ser consultados em https://www.saosebastiao.sp.gov.br/doem.asp.

O erro 404 encontrado no log é devido o boletim nº 29
https://www.saosebastiao.sp.gov.br/doem/DOEM_029_20170522.pdf

Logs

log_sp_sao_sebastiao.csv

log_sp_sao_sebastiao.txt

resolve #1071

Comment on lines +21 to +32
if not self.start_date <= parsed_date <= self.end_date:
continue

gazette_number = re.findall("DOEM_(\d+)_", gazette_url)[0]

yield Gazette(
date=parsed_date,
edition_number=gazette_number,
is_extra_edition=False,
power="executive_legislative",
file_urls=[gazette_url],
)
Copy link
Contributor

Choose a reason for hiding this comment

The reason will be displayed to describe this comment to others. Learn more.

Eu acho que ficaria mais claro em termos de legibilidade apenas colocar a extração dentro da condição if

Suggested change
if not self.start_date <= parsed_date <= self.end_date:
continue
gazette_number = re.findall("DOEM_(\d+)_", gazette_url)[0]
yield Gazette(
date=parsed_date,
edition_number=gazette_number,
is_extra_edition=False,
power="executive_legislative",
file_urls=[gazette_url],
)
if self.start_date <= parsed_date <= self.end_date:
gazette_number = re.findall("DOEM_(\d+)_", gazette_url)[0]
yield Gazette(
date=parsed_date,
edition_number=gazette_number,
is_extra_edition=False,
power="executive_legislative",
file_urls=[gazette_url],
)

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

Successfully merging this pull request may close these issues.

[Novo spider]: Vale do Paraíba e Litoral Norte (SP)
2 participants