You signed in with another tab or window. Reload to refresh your session.You signed out in another tab or window. Reload to refresh your session.You switched accounts on another tab or window. Reload to refresh your session.Dismiss alert
En el PR #122 se realizo la implementación de un proceso que se encarga
de descargar los archivos de la policía nacional de manera semanal. Esta
descarga no discrimina el tipo de archivos e intenta ser lo mas exhaustiva
posible, es decir descarga todo tipo de archivos.
Estos datos se estan extrayendo y se estan almacenando en:
Entre la lista de archivos que se descargan, se encuentran los archivos
de salarios como este,
estos archivos tienen muchos datos que son interesantes para un posterior análisis.
El PDF es 'seleccionable', es decir que contiene texto y no es simplemente una
colección de fotos, por ello se pueden utilizar herramientas de extracción de texto
y de tablas (como tabula) para obtener la información.
El objetivo de este ticket es poder extraer la información y almacenarla de manera
estructurada para su posterior análisis.
Notas para el desarrollador
Se realizaron pruebas con tabula (https://tabula.technology), las pruebas fueron exitosas pero requieren cambios por archivo (es decir, una especificación de coordenadas de extracción no se puede aplicar a todos los archivos).
Se puede usar amazon textract
No es necesaria extraer toda la info del PDF, se puede usar el nombre del archivo también, por ejemplo para extraer el mes y así solo hace falta extraer nombre y monto del archivo
Campos requeridos:
Nombre
Monto
Campos deseables:
Cargo
Fecha de ingreso
Los montos se deben convertir a números
Se deben extraer ambos salarios (presupuestado, devengado y remuneración total)
Definición de hecho
Proceso que identifique los archivos de salarios de la lista completa de archivos
Proceso que convierta cada PDF en un CSV con los datos de cada funcionario.
Proceso que carge el CSV a una tabla
The text was updated successfully, but these errors were encountered:
Contexto
En el PR #122 se realizo la implementación de un proceso que se encarga
de descargar los archivos de la policía nacional de manera semanal. Esta
descarga no discrimina el tipo de archivos e intenta ser lo mas exhaustiva
posible, es decir descarga todo tipo de archivos.
Estos datos se estan extrayendo y se estan almacenando en:
https://data.controlciudadanopy.org/policianacional/
Entre la lista de archivos que se descargan, se encuentran los archivos
de salarios como este,
estos archivos tienen muchos datos que son interesantes para un posterior análisis.
El PDF es 'seleccionable', es decir que contiene texto y no es simplemente una
colección de fotos, por ello se pueden utilizar herramientas de extracción de texto
y de tablas (como tabula) para obtener la información.
El objetivo de este ticket es poder extraer la información y almacenarla de manera
estructurada para su posterior análisis.
Notas para el desarrollador
Definición de hecho
The text was updated successfully, but these errors were encountered: