Olá a todos ai fora que fazem crawling — Estamos liberando um sistema escrito em PHP, o BIPBOP em GPL v2. Acreditamos que quão livre fosse a informação, seria essa a medida de liberdade de uma sociedade. O BIPBOP é uma pequena contribuição nossa que permite que programadores e empresas tornem os dados presentes na internet mais livres, podendo agora haver iteração entre outros sistemas, trazendo agilidade a sociedade (integrações com serviços públicos, e também disponíveis na internet). Essa é uma alternativa para quem não encontrou o que buscava em soluções alternativas do gênero escritas em outras linguagens.
Nosso projeto até agora conta com PUSH (que notifica uma URL caso ocorra uma mudança em determinado retorno), sistema poderoso de crawling que evita que sistemas públicos cerceiem o direito de acesso, comunicação XML / CORS / JSONP para que você seja capaz de consumir os dados em uma interface puramente WEB, API KEYS para gerenciamento de acessos e privacidade, o BPQL que permite que SQLs sejam o roteamento para as APIs presentes no sistema e o Marketplace que permite você ser a interface de outro sistemas da IoT, Python ou o que imaginar. :-)
PS - Sim, é livre. Feito para que a informação nunca seja centralizada, você pode inclusive montar APIs ou as exportar pelo BPQL. Eu desejo sinceramente que no futuro não seja necessário o crawling, que o BIPBOP evolua junto com o mundo, onde haja uma API-REST mais ou menos similar para todos, obedecendo a uma formatação básica, como o HTML nos primórdios, permitindo dessa forma análises de máquina simples e rápidas, um tributo a Asimov que acreditava que máquinas poderiam curar a pobreza.
PS 2 - Para nos ajudar embarque junto conosco programando, respondemos as perguntas com a TAG BIPBOP no Stack Overflow, analisamos merge requests. Também oferecemos consultoria, serviço escalável na nuvem gratuito para a API no GitHub e conheça o Marketplace, onde você pode monetizar sua API escrita em qualquer linguagem de maneira transparente, se você é cientista de dados deveria conhecer.
Um grande abraço a todos,
Lucas Fernando Amorim.
--
Antes de imprimir, pense em sua responsabilidade e compromisso com o meio ambiente.
Before printing, think about your responsibility towards the environment.