UltKit
Εικόνα11
PDF13
Έγγραφα και δεδομένα7
Βίντεο6
Ήχος4
Περισσότερα εργαλεία22

Μετατροπή CSV σε Parquet

Το CSV δημιουργείται εύκολα, αλλά τα ερωτήματα σε αυτό είναι αργά. Ανεβάστε ένα CSV και λάβετε ένα αρχείο Apache Parquet με τύπο στήλης για κάθε πεδίο, συμπιεσμένο και έτοιμο για το εργαλείο ανάλυσης στο οποίο θα το φορτώσετε.

Μετατροπέας δεδομένων

ή σύρετε Αρχεία CSV, TSV, TXT … εδώ ·

Έως 95 MB ανά αρχείο· Έως 20 αρχεία· Διαγραφή μετά από 30 λεπτά

Έξοδος

Τα αρχεία επεξεργάζονται στους διακομιστές μας και διαγράφονται μετά από 30 λεπτά.

Πώς να χρησιμοποιήσετε αυτό το εργαλείο

  1. 1

    Ανεβάστε τα αρχεία CSV

    Προσθέστε μία εξαγωγή ή έως 20 αρχεία με την ίδια διάταξη, καθένα έως 95 MB. Με το Διαχωριστικό στην αυτόματη ανίχνευση αναγνωρίζονται κόμματα, ερωτηματικά, tab και κάθετες γραμμές (pipe).

  2. 2

    Διατηρήστε τις ρυθμίσεις κεφαλίδας και ημερομηνιών

    Η επιλογή Η πρώτη γραμμή είναι κεφαλίδα μετατρέπει τη γραμμή κεφαλίδας σε ονόματα στηλών. Οι Ημερομηνίες είναι ρυθμισμένες σε ISO, ώστε οι στήλες ημερομηνιών να γράφονται με ενιαία μορφή.

  3. 3

    Μετατροπή σε Parquet

    Πατήστε Μετατροπή σε Parquet και φορτώστε το αρχείο .parquet στο pandas, στο DuckDB, στο Spark ή στην αποθήκη δεδομένων σας.

Γιατί οι ομάδες δεδομένων μετατρέπουν CSV σε Parquet

Το Parquet δημιουργήθηκε το 2013 από μηχανικούς του Twitter και της Cloudera, με βάση τη στηλοειδή διάταξη που περιέγραψε η Google στο άρθρο Dremel του 2010, και έγινε έργο κορυφαίου επιπέδου του Apache το 2015. Η ιδέα είναι απλή: αντί να αποθηκεύει έναν πίνακα γραμμή προς γραμμή, όπως το CSV, αποθηκεύει μαζί όλες τις τιμές μιας στήλης. Ένα ερώτημα που χρειάζεται τρεις στήλες από τις σαράντα διαβάζει μόνο αυτές τις τρεις, και οι παρόμοιες τιμές που βρίσκονται δίπλα-δίπλα συμπιέζονται πολύ καλύτερα.

Γι' αυτό οι αναλυτές μετατρέπουν τις εξαγωγές πριν τις φορτώσουν, οι μηχανικοί δεδομένων ζητούν από τους προμηθευτές Parquet αντί για CSV, και υπηρεσίες όπως το Amazon Athena και το BigQuery, που μπορεί να χρεώνουν ανάλογα με τον όγκο δεδομένων που σαρώνεται, γίνονται φθηνότερες στα ερωτήματα. Ένα CSV δεν ξέρει αν το 0042 είναι αριθμός ή κωδικός· το Parquet καταγράφει έναν τύπο για κάθε στήλη, ώστε το επόμενο εργαλείο να μη χρειάζεται να μαντεύει.

Parquet, CSV ή XLSX για μεγάλους πίνακες

ParquetCSVXLSX
Οι τύποι στηλών αποθηκεύονται στο αρχείοyesnoΑνά κελί
Διαβάζει μόνο τις στήλες που χρειάζεται ένα ερώτημαyesnono
Συμπιεσμένοyesnoyes
Αναγνώσιμο σε πρόγραμμα επεξεργασίας κειμένουnoyesno
Ανοίγει στο Excel με διπλό κλικnoyesyes
Γραμμές ανά αρχείοΧωρίς σταθερό όριοΧωρίς σταθερό όριο1.048.576 ανά φύλλο

Τι αλλάζει όταν το CSV γίνεται Parquet

Τι κερδίζετε

  • Ταχύτερα ερωτήματα που διαβάζουν μόνο τις απαραίτητες στήλες
  • Μικρότερα αρχεία για αποθήκευση και μεταφορά
  • Σχήμα δεδομένων που το επόμενο εργαλείο διαβάζει αντί να μαντεύει
  • Ημερομηνίες γραμμένες μία φορά σε μορφή ISO

Τι πρέπει να έχετε υπόψη

  • Δεν επεξεργάζεται σε υπολογιστικό φύλλο ή πρόγραμμα επεξεργασίας κειμένου
  • Ένα τυπογραφικό λάθος σε αριθμητική στήλη μπορεί να κάνει ολόκληρη τη στήλη κείμενο
  • Κρατήστε το CSV αν οι άνθρωποι χρειάζονται ακόμη να το ανοίγουν

Βασικά στοιχεία των μορφών CSV και Parquet

CSV

Τιμές διαχωρισμένες με κόμμα

Το CSV είναι μορφή απλού κειμένου για πίνακες, όπου κάθε γραμμή είναι μια εγγραφή και τα κόμματα χωρίζουν τις στήλες. Χρησιμοποιείται από τα πρώτα χρόνια της πληροφορικής και περιγράφεται στο RFC 4180, αν και πολλές παραλλαγές χρησιμοποιούν ελληνικά ερωτηματικά ή στηλοθέτες και διαφορετικές κωδικοποιήσεις κειμένου. Σχεδόν κάθε λογιστικό φύλλο, βάση δεδομένων και εργαλείο ανάλυσης μπορεί να το εισάγει και να το εξάγει, γι' αυτό είναι η προεπιλεγμένη μορφή για τη μεταφορά δεδομένων μεταξύ συστημάτων. Το CSV αποθηκεύει μόνο τιμές, χωρίς τύπους, μορφοποίηση, πολλαπλά φύλλα ή τύπους δεδομένων.

Συμπίεση
–
Διαφάνεια
–
Κινούμενη εικόνα
–
Έτος εισαγωγής
–
Μετατροπέας CSV

PARQUET

Apache Parquet

Το Parquet είναι μια μορφή αποθήκευσης κατά στήλες ανοιχτού κώδικα, που δημιουργήθηκε από το Twitter και την Cloudera το 2013 και συντηρείται από το Apache Software Foundation. Αποθηκεύει τα δεδομένα ανά στήλη, με ισχυρή συμπίεση και τυποποιημένα σχήματα, ώστε τα εργαλεία ανάλυσης να διαβάζουν μόνο τις στήλες που χρειάζονται. Είναι στάνταρ στα data lakes και σε εργαλεία όπως Spark, pandas, DuckDB, BigQuery και Snowflake. Τα αρχεία Parquet είναι δυαδικά και δεν ανοίγουν σε επεξεργαστή κειμένου ή σε συνηθισμένη εφαρμογή υπολογιστικών φύλλων.

Συμπίεση
Χωρίς απώλειες
Διαφάνεια
–
Κινούμενη εικόνα
–
Έτος εισαγωγής
2013 · Apache Software Foundation (from Twitter and Cloudera)
Μετατροπέας PARQUET

Το CSV γίνεται Parquet όταν ένα αρχείο παύει να είναι κάτι που ανοίγουν οι άνθρωποι και γίνεται κάτι που σαρώνουν τα ερωτήματα: μια ημερήσια εξαγωγή που καταλήγει σε data lake, ένα σύνολο δεδομένων που μοιράζεται με αναλυτές ή logs που φιλτράρονται ανά λίγες στήλες.

Καθαρίστε το CSV πριν από τη μετατροπή και όχι μετά: διορθώστε τα ονόματα της κεφαλίδας, αφαιρέστε τις γραμμές συνόλων στο τέλος και βεβαιωθείτε ότι κάθε στήλη περιέχει έναν μόνο είδος τιμής. Αν η πηγή είναι αντίγραφο ασφαλείας βάσης δεδομένων και όχι CSV, ξεκινήστε με SQL σε CSV. Όλες οι υπόλοιπες μορφές, από JSON έως SQL, βρίσκονται στη σελίδα μετατροπέας δεδομένων.

Ερωτήσεις για τη μετατροπή CSV σε Parquet

Πόσο μικρότερο θα είναι το αρχείο Parquet από το CSV μου;

Εξαρτάται από τα δεδομένα. Οι στήλες με πολλές επαναλαμβανόμενες τιμές, όπως κωδικοί χωρών, καταστάσεις ή ημερομηνίες, συμπιέζονται πολύ καλά, ενώ οι στήλες με μοναδικά αναγνωριστικά ή ελεύθερο κείμενο μειώνονται λιγότερο. Ένα αρχείο Parquet είναι συνήθως ένα μικρό κλάσμα του μεγέθους του CSV, αλλά δεν υπάρχει σταθερή αναλογία που να αξίζει να υποσχεθούμε.

Ποια εργαλεία διαβάζουν το αρχείο .parquet που προκύπτει;

Το pandas με read_parquet, το Polars, το DuckDB με ένα απλό SELECT πάνω στο όνομα του αρχείου, το Apache Spark και αποθήκες δεδομένων στο cloud όπως BigQuery, Snowflake, Amazon Athena και Redshift Spectrum. Οι περισσότερες μπορούν επίσης να ερωτηθούν πάνω σε φάκελο με αρχεία Parquet που έχουν τις ίδιες στήλες, σαν να ήταν ένας πίνακας.

Πώς καθορίζονται οι τύποι των στηλών;

Από τις τιμές κάθε στήλης: οι ακέραιοι, οι δεκαδικοί, οι ημερομηνίες και οι τιμές αληθές/ψευδές παίρνουν αντίστοιχους τύπους, ενώ μια στήλη με μικτό περιεχόμενο μένει κείμενο. Ελέγξτε μετά τη μετατροπή τους κωδικούς με αρχικά μηδενικά, όπως οι ταχυδρομικοί κώδικες τύπου 02134, και κρατήστε τους ως κείμενο αν πρέπει να διατηρήσουν το μηδέν.

Μπορώ να μετατρέψω πολλά αρχεία CSV με την ίδια δομή;

Ναι, έως 20 σε μία παρτίδα, και καθένα γίνεται ξεχωριστό αρχείο .parquet. Βάλτε τα σε έναν φάκελο και το DuckDB ή το Spark μπορούν να τα διαβάσουν μαζί με μπαλαντέρ, όπως sales_*.parquet.

Πώς βλέπω το περιεχόμενο ενός αρχείου Parquet χωρίς κώδικα;

Το Excel και τα Φύλλα Google δεν ανοίγουν αρχεία .parquet με διπλό κλικ. Μετατρέψτε το ξανά σε γραμμές με Parquet σε CSV ή χρησιμοποιήστε τη γραμμή εντολών του DuckDB, αν νιώθετε άνετα με ένα ερώτημα SQL.