Parkettdatei mit Polaren kann nicht gelesen werden, während Pyarrow [geschlossen] kannPython

Python-Programme
Anonymous
 Parkettdatei mit Polaren kann nicht gelesen werden, während Pyarrow [geschlossen] kann

Post by Anonymous »

Ich erhalte eine dtype-Ausnahme

pyo3_runtime.PanicException: Arrow datatype Map(Field { name: "key_value", dtype: LargeList(Field { name: "key_value", dtype: Struct([Field { name: "key", dtype: Utf8View, is_nullable: false, metadata: None }, Field { name: "value", dtype: Int64, is_nullable: true, metadata: None }]), is_nullable: true, metadata: None }), is_nullable: true, metadata: None }, false) wird von Polars nicht unterstützt. Wahrscheinlich müssen Sie diese Datentypfunktion aktivieren.

Ich kann es lesen, wenn ich use_pyarrow=True setze, aber ich muss den Lazy-Modus verwenden.
Ich habe viele Dateien, also bestand mein Workaround darin, jede Datei im Eager-Modus mit der pyarrow-Engine zu lesen und sie erneut zu speichern. Ich habe versucht, pyarrow dataset und scan_pyarrow_dataset zu verwenden, hatte aber keinen Erfolg.

Quick Reply

Change Text Case: 
   
  • Similar Topics
    Replies
    Views
    Last post