Μετατροπή CSV σε Parquet
Το CSV δημιουργείται εύκολα, αλλά τα ερωτήματα σε αυτό είναι αργά. Ανεβάστε ένα CSV και λάβετε ένα αρχείο Apache Parquet με τύπο στήλης για κάθε πεδίο, συμπιεσμένο και έτοιμο για το εργαλείο ανάλυσης στο οποίο θα το φορτώσετε.
Μετατροπέας δεδομένων
ή σύρετε Αρχεία CSV, TSV, TXT … εδώ ·
Έως 95 MB ανά αρχείο· Έως 20 αρχεία· Διαγραφή μετά από 30 λεπτά
Τα αρχεία επεξεργάζονται στους διακομιστές μας και διαγράφονται μετά από 30 λεπτά.
Χαρακτήρας που χωρίζει τις στήλες σε αρχεία CSV και κειμένου, τόσο για ανάγνωση όσο και για εγγραφή. Η αυτόματη επιλογή τον εντοπίζει από την είσοδο και γράφει κόμματα.
Το UTF-8 λειτουργεί για κάθε γλώσσα. Επιλέξτε UTF-8 με BOM αν το Excel στα Windows εμφανίζει παραμορφωμένους τόνους ή ασιατικούς χαρακτήρες κατά το άνοιγμα του CSV.
Είσοδος Excel, ODS και Numbers: μετατροπή μόνο του πρώτου φύλλου ή όλων των φύλλων (ένα CSV ανά φύλλο μέσα σε ZIP ή ένα κλειδί JSON ανά φύλλο).
Όνομα της καρτέλας φύλλου στο νέο υπολογιστικό φύλλο, έως 31 χαρακτήρες.
Ο πίνακας αντικειμένων χρησιμοποιεί τα ονόματα στηλών ως κλειδιά σε κάθε γραμμή· ο πίνακας πινάκων είναι πιο συμπαγής και κρατά την κεφαλίδα ως πρώτο πίνακα.
Όνομα του εξωτερικού στοιχείου που περιέχει όλες τις γραμμές· κάθε γραμμή γίνεται ένα <row> μέσα σε αυτό.
Χρησιμοποιείται στις εντολές CREATE TABLE και INSERT. Μόνο γράμματα, ψηφία και κάτω παύλες.
Τα εισαγωγικά και οι τύποι στηλών διαφέρουν ελαφρά ανάμεσα στις βάσεις δεδομένων· επιλέξτε εκείνη στην οποία θα κάνετε εισαγωγή.
Αναδιατύπωση των κελιών ημερομηνίας σε μία μορφή. Το ISO (2026-10-18) είναι το ασφαλέστερο για βάσεις δεδομένων και κώδικα· η διατήρηση τα αφήνει όπως εμφανίζονται στην πηγή.
Πώς να χρησιμοποιήσετε αυτό το εργαλείο
- 1
Ανεβάστε τα αρχεία CSV
Προσθέστε μία εξαγωγή ή έως 20 αρχεία με την ίδια διάταξη, καθένα έως 95 MB. Με το Διαχωριστικό στην αυτόματη ανίχνευση αναγνωρίζονται κόμματα, ερωτηματικά, tab και κάθετες γραμμές (pipe).
- 2
Διατηρήστε τις ρυθμίσεις κεφαλίδας και ημερομηνιών
Η επιλογή Η πρώτη γραμμή είναι κεφαλίδα μετατρέπει τη γραμμή κεφαλίδας σε ονόματα στηλών. Οι Ημερομηνίες είναι ρυθμισμένες σε ISO, ώστε οι στήλες ημερομηνιών να γράφονται με ενιαία μορφή.
- 3
Μετατροπή σε Parquet
Πατήστε Μετατροπή σε Parquet και φορτώστε το αρχείο .parquet στο pandas, στο DuckDB, στο Spark ή στην αποθήκη δεδομένων σας.
Γιατί οι ομάδες δεδομένων μετατρέπουν CSV σε Parquet
Το Parquet δημιουργήθηκε το 2013 από μηχανικούς του Twitter και της Cloudera, με βάση τη στηλοειδή διάταξη που περιέγραψε η Google στο άρθρο Dremel του 2010, και έγινε έργο κορυφαίου επιπέδου του Apache το 2015. Η ιδέα είναι απλή: αντί να αποθηκεύει έναν πίνακα γραμμή προς γραμμή, όπως το CSV, αποθηκεύει μαζί όλες τις τιμές μιας στήλης. Ένα ερώτημα που χρειάζεται τρεις στήλες από τις σαράντα διαβάζει μόνο αυτές τις τρεις, και οι παρόμοιες τιμές που βρίσκονται δίπλα-δίπλα συμπιέζονται πολύ καλύτερα.
Γι' αυτό οι αναλυτές μετατρέπουν τις εξαγωγές πριν τις φορτώσουν, οι μηχανικοί δεδομένων ζητούν από τους προμηθευτές Parquet αντί για CSV, και υπηρεσίες όπως το Amazon Athena και το BigQuery, που μπορεί να χρεώνουν ανάλογα με τον όγκο δεδομένων που σαρώνεται, γίνονται φθηνότερες στα ερωτήματα. Ένα CSV δεν ξέρει αν το 0042 είναι αριθμός ή κωδικός· το Parquet καταγράφει έναν τύπο για κάθε στήλη, ώστε το επόμενο εργαλείο να μη χρειάζεται να μαντεύει.
Parquet, CSV ή XLSX για μεγάλους πίνακες
| Parquet | CSV | XLSX | |
|---|---|---|---|
| Οι τύποι στηλών αποθηκεύονται στο αρχείο | yes | no | Ανά κελί |
| Διαβάζει μόνο τις στήλες που χρειάζεται ένα ερώτημα | yes | no | no |
| Συμπιεσμένο | yes | no | yes |
| Αναγνώσιμο σε πρόγραμμα επεξεργασίας κειμένου | no | yes | no |
| Ανοίγει στο Excel με διπλό κλικ | no | yes | yes |
| Γραμμές ανά αρχείο | Χωρίς σταθερό όριο | Χωρίς σταθερό όριο | 1.048.576 ανά φύλλο |
Τι αλλάζει όταν το CSV γίνεται Parquet
Τι κερδίζετε
- Ταχύτερα ερωτήματα που διαβάζουν μόνο τις απαραίτητες στήλες
- Μικρότερα αρχεία για αποθήκευση και μεταφορά
- Σχήμα δεδομένων που το επόμενο εργαλείο διαβάζει αντί να μαντεύει
- Ημερομηνίες γραμμένες μία φορά σε μορφή ISO
Τι πρέπει να έχετε υπόψη
- Δεν επεξεργάζεται σε υπολογιστικό φύλλο ή πρόγραμμα επεξεργασίας κειμένου
- Ένα τυπογραφικό λάθος σε αριθμητική στήλη μπορεί να κάνει ολόκληρη τη στήλη κείμενο
- Κρατήστε το CSV αν οι άνθρωποι χρειάζονται ακόμη να το ανοίγουν
Βασικά στοιχεία των μορφών CSV και Parquet
CSV
Τιμές διαχωρισμένες με κόμμα
Το CSV είναι μορφή απλού κειμένου για πίνακες, όπου κάθε γραμμή είναι μια εγγραφή και τα κόμματα χωρίζουν τις στήλες. Χρησιμοποιείται από τα πρώτα χρόνια της πληροφορικής και περιγράφεται στο RFC 4180, αν και πολλές παραλλαγές χρησιμοποιούν ελληνικά ερωτηματικά ή στηλοθέτες και διαφορετικές κωδικοποιήσεις κειμένου. Σχεδόν κάθε λογιστικό φύλλο, βάση δεδομένων και εργαλείο ανάλυσης μπορεί να το εισάγει και να το εξάγει, γι' αυτό είναι η προεπιλεγμένη μορφή για τη μεταφορά δεδομένων μεταξύ συστημάτων. Το CSV αποθηκεύει μόνο τιμές, χωρίς τύπους, μορφοποίηση, πολλαπλά φύλλα ή τύπους δεδομένων.
- Συμπίεση
- –
- Διαφάνεια
- –
- Κινούμενη εικόνα
- –
- Έτος εισαγωγής
- –
PARQUET
Apache Parquet
Το Parquet είναι μια μορφή αποθήκευσης κατά στήλες ανοιχτού κώδικα, που δημιουργήθηκε από το Twitter και την Cloudera το 2013 και συντηρείται από το Apache Software Foundation. Αποθηκεύει τα δεδομένα ανά στήλη, με ισχυρή συμπίεση και τυποποιημένα σχήματα, ώστε τα εργαλεία ανάλυσης να διαβάζουν μόνο τις στήλες που χρειάζονται. Είναι στάνταρ στα data lakes και σε εργαλεία όπως Spark, pandas, DuckDB, BigQuery και Snowflake. Τα αρχεία Parquet είναι δυαδικά και δεν ανοίγουν σε επεξεργαστή κειμένου ή σε συνηθισμένη εφαρμογή υπολογιστικών φύλλων.
- Συμπίεση
- Χωρίς απώλειες
- Διαφάνεια
- –
- Κινούμενη εικόνα
- –
- Έτος εισαγωγής
- 2013 · Apache Software Foundation (from Twitter and Cloudera)
Το CSV γίνεται Parquet όταν ένα αρχείο παύει να είναι κάτι που ανοίγουν οι άνθρωποι και γίνεται κάτι που σαρώνουν τα ερωτήματα: μια ημερήσια εξαγωγή που καταλήγει σε data lake, ένα σύνολο δεδομένων που μοιράζεται με αναλυτές ή logs που φιλτράρονται ανά λίγες στήλες.
Καθαρίστε το CSV πριν από τη μετατροπή και όχι μετά: διορθώστε τα ονόματα της κεφαλίδας, αφαιρέστε τις γραμμές συνόλων στο τέλος και βεβαιωθείτε ότι κάθε στήλη περιέχει έναν μόνο είδος τιμής. Αν η πηγή είναι αντίγραφο ασφαλείας βάσης δεδομένων και όχι CSV, ξεκινήστε με SQL σε CSV. Όλες οι υπόλοιπες μορφές, από JSON έως SQL, βρίσκονται στη σελίδα μετατροπέας δεδομένων.
Ερωτήσεις για τη μετατροπή CSV σε Parquet
Πόσο μικρότερο θα είναι το αρχείο Parquet από το CSV μου;
Εξαρτάται από τα δεδομένα. Οι στήλες με πολλές επαναλαμβανόμενες τιμές, όπως κωδικοί χωρών, καταστάσεις ή ημερομηνίες, συμπιέζονται πολύ καλά, ενώ οι στήλες με μοναδικά αναγνωριστικά ή ελεύθερο κείμενο μειώνονται λιγότερο. Ένα αρχείο Parquet είναι συνήθως ένα μικρό κλάσμα του μεγέθους του CSV, αλλά δεν υπάρχει σταθερή αναλογία που να αξίζει να υποσχεθούμε.
Ποια εργαλεία διαβάζουν το αρχείο .parquet που προκύπτει;
Το pandas με read_parquet, το Polars, το DuckDB με ένα απλό SELECT πάνω στο όνομα του αρχείου, το Apache Spark και αποθήκες δεδομένων στο cloud όπως BigQuery, Snowflake, Amazon Athena και Redshift Spectrum. Οι περισσότερες μπορούν επίσης να ερωτηθούν πάνω σε φάκελο με αρχεία Parquet που έχουν τις ίδιες στήλες, σαν να ήταν ένας πίνακας.
Πώς καθορίζονται οι τύποι των στηλών;
Από τις τιμές κάθε στήλης: οι ακέραιοι, οι δεκαδικοί, οι ημερομηνίες και οι τιμές αληθές/ψευδές παίρνουν αντίστοιχους τύπους, ενώ μια στήλη με μικτό περιεχόμενο μένει κείμενο. Ελέγξτε μετά τη μετατροπή τους κωδικούς με αρχικά μηδενικά, όπως οι ταχυδρομικοί κώδικες τύπου 02134, και κρατήστε τους ως κείμενο αν πρέπει να διατηρήσουν το μηδέν.
Μπορώ να μετατρέψω πολλά αρχεία CSV με την ίδια δομή;
Ναι, έως 20 σε μία παρτίδα, και καθένα γίνεται ξεχωριστό αρχείο .parquet. Βάλτε τα σε έναν φάκελο και το DuckDB ή το Spark μπορούν να τα διαβάσουν μαζί με μπαλαντέρ, όπως sales_*.parquet.
Πώς βλέπω το περιεχόμενο ενός αρχείου Parquet χωρίς κώδικα;
Το Excel και τα Φύλλα Google δεν ανοίγουν αρχεία .parquet με διπλό κλικ. Μετατρέψτε το ξανά σε γραμμές με Parquet σε CSV ή χρησιμοποιήστε τη γραμμή εντολών του DuckDB, αν νιώθετε άνετα με ένα ερώτημα SQL.