CSV til Parquet-konverter
CSV er enkelt å lage, men tregt å spørre mot. Last opp en CSV-fil og få en Apache Parquet-fil med en kolonnetype for hvert felt, komprimert og klar for analyseverktøyet du laster den inn i.
Datakonverterer
eller slipp CSV, TSV, TXT …-filer her ·
Maks 95 MB per fil· Opptil 20 filer· Slettes etter 30 minutter
Filene behandles på serverne våre og slettes etter 30 minutter.
Tegnet som skiller kolonner i CSV- og tekstfiler, både ved lesing og skriving. Automatisk finner det i inndataene og skriver komma.
UTF-8 fungerer for alle språk. Velg UTF-8 med BOM hvis Excel på Windows viser ødelagte aksenter eller asiatiske tegn når du åpner CSV-filen.
For Excel-, ODS- og Numbers-filer: konverter bare det første arket, eller alle arkene (én CSV per ark i en ZIP, eller én JSON-nøkkel per ark).
Navnet på arkfanen i det nye regnearket, maks 31 tegn.
Liste med objekter bruker kolonnenavn som nøkler for hver rad; liste med lister er mer kompakt og beholder overskriften som første liste.
Navnet på det ytre elementet som omslutter alle rader; hver rad blir en <row> inni det.
Brukes i CREATE TABLE- og INSERT-setninger. Bare bokstaver, tall og understreker.
Sitering og kolonnetyper varierer litt mellom databaser; velg den du skal importere til.
Skriv om datoceller i ett format. ISO (2026-10-18) er tryggest for databaser og kode; behold lar dem stå som i kilden.
Slik bruker du dette verktøyet
- 1
Last opp CSV-filene
Legg til én eksportfil eller opptil 20 filer med samme oppsett, hver på opptil 95 MB. Skilletegn på Auto detect håndterer komma, semikolon, tabulator og pipe-tegn.
- 2
Behold innstillingene for overskrift og dato
Første rad er overskrift gjør overskriftslinjen om til kolonnenavn. Datoer står på ISO, slik at datokolonner skrives i én ensartet form.
- 3
Konverter til Parquet
Trykk Konverter til Parquet og last .parquet-filen inn i pandas, DuckDB, Spark eller datavarehuset ditt.
Hvorfor dataanalytikere konverterer CSV til Parquet
Parquet ble laget i 2013 av ingeniører hos Twitter og Cloudera, med utgangspunkt i det kolonnebaserte oppsettet Google beskrev i Dremel-artikkelen fra 2010, og ble et Apache-toppnivåprosjekt i 2015. Ideen er enkel: i stedet for å lagre en tabell rad for rad slik CSV gjør, lagres alle verdiene i én kolonne sammen. En spørring som trenger tre av førti kolonner, leser bare disse tre, og like verdier som ligger ved siden av hverandre komprimeres langt bedre.
Derfor konverterer analytikere eksporter før de laster dem inn, dataingeniører ber leverandører om Parquet i stedet for CSV, og tjenester som Amazon Athena og BigQuery, som kan ta betalt etter mengden data som skannes, blir billigere å spørre mot. En CSV vet heller ikke om 0042 er et tall eller en kode; Parquet registrerer en type for hver kolonne, så neste verktøy slipper å gjette.
Parquet, CSV eller XLSX for store tabeller
| Parquet | CSV | XLSX | |
|---|---|---|---|
| Kolonnetyper lagret i filen | yes | no | Per celle |
| Leser bare kolonnene en spørring trenger | yes | no | no |
| Komprimert | yes | no | yes |
| Lesbar i et tekstredigeringsprogram | no | yes | no |
| Åpnes i Excel med dobbeltklikk | no | yes | yes |
| Rader per fil | Ingen fast grense | Ingen fast grense | 1 048 576 per ark |
Hva som endres når CSV blir Parquet
Hva du får
- Raskere spørringer som bare leser de nødvendige kolonnene
- Mindre filer å lagre og flytte
- Et skjema neste verktøy leser i stedet for å gjette
- Datoer skrevet én gang i ISO-form
Dette bør du huske på
- Kan ikke redigeres i et regneark eller tekstredigeringsprogram
- En skrivefeil i en numerisk kolonne kan gjøre hele kolonnen til tekst
- Behold CSV-filen hvis folk fortsatt trenger å åpne den
Fakta om CSV- og Parquet-formatet
CSV
Kommaseparerte verdier
CSV er et rent tekstformat for tabeller der hver linje er en rad og komma skiller kolonnene. Det har vært brukt siden databehandlingens tidlige dager og er beskrevet i RFC 4180, selv om mange varianter bruker semikolon eller tabulator og ulike tekstkodinger. Nesten alle regneark, databaser og analyseverktøy kan importere og eksportere det, noe som gjør det til standardformatet for å flytte data mellom systemer. CSV lagrer bare verdier, uten formler, formatering, flere ark eller datatyper.
- Komprimering
- –
- Gjennomsiktighet
- –
- Animasjon
- –
- Introdusert
- –
PARQUET
Apache Parquet
Parquet er et åpen kildekode-format for kolonnebasert lagring, laget av Twitter og Cloudera i 2013 og vedlikeholdt av Apache Software Foundation. Det lagrer data per kolonne med sterk komprimering og typede skjemaer, slik at analyseverktøy bare kan lese kolonnene de trenger. Det er standard i datasjøer og verktøy som Spark, pandas, DuckDB, BigQuery og Snowflake. Parquet-filer er binære og kan ikke åpnes i en tekstredigerer eller et vanlig regnearkprogram.
- Komprimering
- Tapsfri
- Gjennomsiktighet
- –
- Animasjon
- –
- Introdusert
- 2013 · Apache Software Foundation (from Twitter and Cloudera)
CSV blir til Parquet når en fil slutter å være noe folk åpner og blir noe spørringer skanner: en daglig eksport som havner i en datasjø, et datasett som deles med analytikere, eller logger som filtreres på noen få kolonner om gangen.
Rydd i CSV-filen før konverteringen, ikke etter: rett opp overskriftsnavnene, fjern sammendragslinjer nederst og sørg for at hver kolonne bare inneholder én type verdi. Hvis kilden er en databasesikkerhetskopi og ikke en CSV, start med SQL til CSV. Alle andre målformater, fra JSON til SQL, finner du på siden for datakonverter.
Spørsmål om CSV til Parquet
Hvor mye mindre blir Parquet-filen enn CSV-filen?
Det kommer an på dataene. Kolonner med mange gjentatte verdier, som landskoder, statuser eller datoer, komprimeres svært godt, mens kolonner med unike ID-er eller fritekst blir mindre redusert. En Parquet-fil er vanligvis en brøkdel av CSV-ens størrelse, men det finnes ikke noe fast forhold det er verdt å love.
Hvilke verktøy kan lese den konverterte .parquet-filen?
pandas med read_parquet, Polars, DuckDB med en enkel SELECT på filnavnet, Apache Spark og skybaserte datavarehus som BigQuery, Snowflake, Amazon Athena og Redshift Spectrum. De fleste av dem kan også spørre mot en mappe med Parquet-filer med de samme kolonnene som om det var én tabell.
Hvordan bestemmes kolonnetypene?
Ut fra verdiene i hver kolonne: hele tall, desimaltall, datoer og sann/usann-verdier får passende typer, og en kolonne med blandet innhold forblir tekst. Kontroller koder med innledende nuller, for eksempel postnumre som 02134, etter konverteringen, og behold dem som tekst hvis nullen skal beholdes.
Kan jeg konvertere flere CSV-filer med samme oppsett?
Ja, opptil 20 i én omgang, og hver av dem blir en egen .parquet-fil. Legg dem i én mappe, så kan DuckDB eller Spark lese dem sammen med et jokertegn som sales_*.parquet.
Hvordan ser jeg innholdet i en Parquet-fil uten kode?
Excel og Google Sheets kan ikke åpne .parquet med dobbeltklikk. Gjør filen om til rader igjen med Parquet til CSV, eller bruk kommandolinjen i DuckDB hvis du er komfortabel med én SQL-spørring.