UltKit

CSV til Parquet-konverter

CSV er enkelt å lage, men tregt å spørre mot. Last opp en CSV-fil og få en Apache Parquet-fil med en kolonnetype for hvert felt, komprimert og klar for analyseverktøyet du laster den inn i.

Datakonverterer

eller slipp CSV, TSV, TXT …-filer her ·

Maks 95 MB per fil· Opptil 20 filer· Slettes etter 30 minutter

Utdata

Filene behandles på serverne våre og slettes etter 30 minutter.

Slik bruker du dette verktøyet

  1. 1

    Last opp CSV-filene

    Legg til én eksportfil eller opptil 20 filer med samme oppsett, hver på opptil 95 MB. Skilletegn på Auto detect håndterer komma, semikolon, tabulator og pipe-tegn.

  2. 2

    Behold innstillingene for overskrift og dato

    Første rad er overskrift gjør overskriftslinjen om til kolonnenavn. Datoer står på ISO, slik at datokolonner skrives i én ensartet form.

  3. 3

    Konverter til Parquet

    Trykk Konverter til Parquet og last .parquet-filen inn i pandas, DuckDB, Spark eller datavarehuset ditt.

Hvorfor dataanalytikere konverterer CSV til Parquet

Parquet ble laget i 2013 av ingeniører hos Twitter og Cloudera, med utgangspunkt i det kolonnebaserte oppsettet Google beskrev i Dremel-artikkelen fra 2010, og ble et Apache-toppnivåprosjekt i 2015. Ideen er enkel: i stedet for å lagre en tabell rad for rad slik CSV gjør, lagres alle verdiene i én kolonne sammen. En spørring som trenger tre av førti kolonner, leser bare disse tre, og like verdier som ligger ved siden av hverandre komprimeres langt bedre.

Derfor konverterer analytikere eksporter før de laster dem inn, dataingeniører ber leverandører om Parquet i stedet for CSV, og tjenester som Amazon Athena og BigQuery, som kan ta betalt etter mengden data som skannes, blir billigere å spørre mot. En CSV vet heller ikke om 0042 er et tall eller en kode; Parquet registrerer en type for hver kolonne, så neste verktøy slipper å gjette.

Parquet, CSV eller XLSX for store tabeller

ParquetCSVXLSX
Kolonnetyper lagret i filenyesnoPer celle
Leser bare kolonnene en spørring trengeryesnono
Komprimertyesnoyes
Lesbar i et tekstredigeringsprogramnoyesno
Åpnes i Excel med dobbeltklikknoyesyes
Rader per filIngen fast grenseIngen fast grense1 048 576 per ark

Hva som endres når CSV blir Parquet

Hva du får

  • Raskere spørringer som bare leser de nødvendige kolonnene
  • Mindre filer å lagre og flytte
  • Et skjema neste verktøy leser i stedet for å gjette
  • Datoer skrevet én gang i ISO-form

Dette bør du huske på

  • Kan ikke redigeres i et regneark eller tekstredigeringsprogram
  • En skrivefeil i en numerisk kolonne kan gjøre hele kolonnen til tekst
  • Behold CSV-filen hvis folk fortsatt trenger å åpne den

Fakta om CSV- og Parquet-formatet

CSV

Kommaseparerte verdier

CSV er et rent tekstformat for tabeller der hver linje er en rad og komma skiller kolonnene. Det har vært brukt siden databehandlingens tidlige dager og er beskrevet i RFC 4180, selv om mange varianter bruker semikolon eller tabulator og ulike tekstkodinger. Nesten alle regneark, databaser og analyseverktøy kan importere og eksportere det, noe som gjør det til standardformatet for å flytte data mellom systemer. CSV lagrer bare verdier, uten formler, formatering, flere ark eller datatyper.

Komprimering
–
Gjennomsiktighet
–
Animasjon
–
Introdusert
–
CSV-konverterer

PARQUET

Apache Parquet

Parquet er et åpen kildekode-format for kolonnebasert lagring, laget av Twitter og Cloudera i 2013 og vedlikeholdt av Apache Software Foundation. Det lagrer data per kolonne med sterk komprimering og typede skjemaer, slik at analyseverktøy bare kan lese kolonnene de trenger. Det er standard i datasjøer og verktøy som Spark, pandas, DuckDB, BigQuery og Snowflake. Parquet-filer er binære og kan ikke åpnes i en tekstredigerer eller et vanlig regnearkprogram.

Komprimering
Tapsfri
Gjennomsiktighet
–
Animasjon
–
Introdusert
2013 · Apache Software Foundation (from Twitter and Cloudera)
PARQUET-konverterer

CSV blir til Parquet når en fil slutter å være noe folk åpner og blir noe spørringer skanner: en daglig eksport som havner i en datasjø, et datasett som deles med analytikere, eller logger som filtreres på noen få kolonner om gangen.

Rydd i CSV-filen før konverteringen, ikke etter: rett opp overskriftsnavnene, fjern sammendragslinjer nederst og sørg for at hver kolonne bare inneholder én type verdi. Hvis kilden er en databasesikkerhetskopi og ikke en CSV, start med SQL til CSV. Alle andre målformater, fra JSON til SQL, finner du på siden for datakonverter.

Spørsmål om CSV til Parquet

Hvor mye mindre blir Parquet-filen enn CSV-filen?

Det kommer an på dataene. Kolonner med mange gjentatte verdier, som landskoder, statuser eller datoer, komprimeres svært godt, mens kolonner med unike ID-er eller fritekst blir mindre redusert. En Parquet-fil er vanligvis en brøkdel av CSV-ens størrelse, men det finnes ikke noe fast forhold det er verdt å love.

Hvilke verktøy kan lese den konverterte .parquet-filen?

pandas med read_parquet, Polars, DuckDB med en enkel SELECT på filnavnet, Apache Spark og skybaserte datavarehus som BigQuery, Snowflake, Amazon Athena og Redshift Spectrum. De fleste av dem kan også spørre mot en mappe med Parquet-filer med de samme kolonnene som om det var én tabell.

Hvordan bestemmes kolonnetypene?

Ut fra verdiene i hver kolonne: hele tall, desimaltall, datoer og sann/usann-verdier får passende typer, og en kolonne med blandet innhold forblir tekst. Kontroller koder med innledende nuller, for eksempel postnumre som 02134, etter konverteringen, og behold dem som tekst hvis nullen skal beholdes.

Kan jeg konvertere flere CSV-filer med samme oppsett?

Ja, opptil 20 i én omgang, og hver av dem blir en egen .parquet-fil. Legg dem i én mappe, så kan DuckDB eller Spark lese dem sammen med et jokertegn som sales_*.parquet.

Hvordan ser jeg innholdet i en Parquet-fil uten kode?

Excel og Google Sheets kan ikke åpne .parquet med dobbeltklikk. Gjør filen om til rader igjen med Parquet til CSV, eller bruk kommandolinjen i DuckDB hvis du er komfortabel med én SQL-spørring.