Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

Innlasting av store pakker (300+GB) bør ikke få applikasjonen til å henge. #156

Open
Swoy opened this issue Jan 21, 2023 · 3 comments
Open

Comments

@Swoy
Copy link

Swoy commented Jan 21, 2023

Jeg opplever at applikasjonen (GUI) henger etter at jeg har trykket på «last inn uttrekk» på store tar-filer.
Arbeid ser ofte ut til å pågå selv om applikasjonen henger, men det er ikke alltid at dette skjer. Jeg må derfor pakke ut tar-filene før jeg laster dem inn med mappe-valget.

Her kunne jeg tenkt meg en av to (eller begge) ting:

  • Innlesing av pakker bør flyttes bort fra hovedtråden og heller kjøre i egne separate tråder, slik at ikke applikasjonen blir utilgjengelig mens innlesingen pågår. Dette bør kanskje sammenstilles med muligheten for å hente inn tidligere innleste pakker.
  • Fremfor å pakke ut tar-filer, så synes jeg at applikasjonen kan mappe nødvendig innhold til f.eks. en sqlite3-fil eller lignende. Kanskje ved å bruke en buffered input stream. Jeg tror dette også vil gjøre applikasjonen mye raskere, og samtidig slipper vi at data må kopieres fra et sted til et annet (som jo en utpakking krever). Jeg er ikke veldig bevandret med Java, men har hørt at dette er mulig med f.eks. JTar.

Jeg har testet dette i Python, og det fungerer fint.

@erikaaberg
Copy link

Vi ser problemet. Ville vært fint med en fristilt/fork prosess som kunne surre, evt. med ekte progress display (ikke bare spinning wheel). Utviklerne ser nå på mulighetene. Men jeg tror ikke vi går inn på sqlite eller JTar.

@Swoy
Copy link
Author

Swoy commented Feb 3, 2023

Takker for svar. Ser frem til å høre hvilke løsning dere går for.

Jeg lener likevel mot at dere burde løse validering av tar-pakker uten å pakke ut innholdet til disk, det vil vært en formidabel forbedring. Utviklerne er neppe fornøyd hvordan dette håndteres i dag.

@solfeggietto
Copy link
Collaborator

Mangel av validering av tar-filer gjør at vi som fagmlijø kanskje må lage vår egen DIAS-validator?

  • Validere .tar fil iht. DIAS-struktur inklusiv alle pekere på filer og sjekksummer og selvsagt all DIAS-struktur
  • Validere en utpakket DIAS mappestruktur, i prinsippet samme som over bare at .tar filen er utpakket

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

3 participants