Google Colab: gewusst wie: Lesen von Daten aus meinem google-Laufwerk?
Das problem ist einfach: ich habe einige Daten auf gDrive, zum Beispiel bei
/projects/my_project/my_data*
.
Habe auch ich ein einfaches Notizbuch in gColab.
So, ich würde gerne etwas machen wie:
for file in glob.glob("/projects/my_project/my_data*"):
do_something(file)
Leider alle Beispiele (wie dieses - https://colab.research.google.com/notebook#fileId=/v2/external/notebooks/io.ipynb, zum Beispiel) schlägt vor, nur vor allem laden Sie alle erforderlichen Daten zum notebook.
Aber, wenn ich habe eine Menge von Stücken von Daten, es kann ganz schön kompliziert sein.
Gibt es irgendwelche Möglichkeiten, dieses Problem zu lösen?
Danke für die Hilfe!
InformationsquelleAutor Scitator | 2018-01-22
Du musst angemeldet sein, um einen Kommentar abzugeben.
Gute Nachricht, PyDrive bietet erstklassige Unterstützung auf CoLab! PyDrive ist ein wrapper für die Google Drive-python-client. Hier ist ein Beispiel, wie würden Sie download ALLE Dateien aus einem Ordner, ähnlich der Verwendung
glob
+*
:Beachten Sie, dass die Argumente für
drive.ListFile
ist ein Wörterbuch, das deckt sich mit dem Parameter, die von Google Drive HTTP-API (Sie können dieq
parameter optimiert werden, um Ihre use-case).Wissen, dass in allen Fällen, Dateien/Ordner, die codiert sind durch id ' s (peep die 1SooKSw8M4ACbznKjnNrYvJ5wxuqJ-YCk) auf Google Drive. Dies erfordert, dass Sie Google-Suche Laufwerk für die spezifische id entspricht dem Ordner, den Sie möchten, um Ihre Wurzel suchen.
Beispielsweise, navigieren Sie zu dem Ordner
"/projects/my_project/my_data"
dassbefindet sich in Ihrem Google Drive.
Sehen, dass es enthält einige Dateien, die wir herunterladen möchten, CoLab. Um die id des Ordners, um es zu verwenden, indem PyDrive, achten Sie auf die url und extrahiert die id-parameter. In diesem Fall wird die entsprechende url zu dem Ordner war:
Wo die id ist der Letzte Teil der url: 1SooKSw8M4ACbznKjnNrYvJ5wxuqJ-YCk.
meinst du alle Dateien in Google Drive?
bitte werfen Sie einen Blick auf pythonhosted.org/PyDrive/... für Ihre Frage
Danke für die Antwort. Es funktioniert, aber irgendwie habe ich etwas nicht verstehe. Die Art, wie es jetzt funktioniert (soweit ich das verstanden habe) ist, dass es speichert die Daten im angegebenen Pfad unter "local_download_path"auf Google Drive! Aber die Daten, die bereits in Google Drive (codiert durch eine bestimmte Ordner-id). Warum müssen wir dies tun? Ich meine die Datei/Dateien sind bereits in Google Drive!! Ich habe versucht, diese Methode zum Lesen eines Ordners mit vielen Bildern, und mein computer eingefroren! Bei mir lief dieser code, der es tatsächlich versucht, zu kopieren WIEDER alle Bilder (das ist bereits in Google Drive), um die "local_download_path"??
hast du eine Lösung zu deiner Frage, ich bin vor die gleichen Schwierigkeiten mit dem Lesen der Datei von einem Ordner in den google drive.!, Meine Daten werden im selben Verzeichnis wie der .ipnb-Datei. Wo ich bin stecken geblieben ist, habe ich die aktuelle
local_download_path = os.getcwd()
gibtFileNotFoundError: [Errno 2] No such file or directory: '/content/.ipynb_checkpoints'
ich nicht, warumos.getcwd()
ist mir/content/
statt/content/drive/ML/../../../../../**.ipnb
, jede Anregung?InformationsquelleAutor wenkesj
Montieren Sie können Ihre Google Drive-Dateien durch ausführen der folgenden code-snippet:
Dann, Sie können interagieren mit Ihrem Laufwerk Dateien im Datei-browser Seitenwand oder unter Verwendung von Befehlszeilen-Dienstprogramme.
Hier ein Beispiel für ein notebook
Kanonische Antwort, schön. Das Beispiel notebook ist schreibgeschützt und kann nicht direkt verwendet werden. Tun Datei->Speichern, wird speichern Sie eine Datei im Laufwerk.
Sehr einfach und funktioniert gut
InformationsquelleAutor Bob Smith
Können Sie nicht dauerhaft speichern eine Datei auf colab. Aber Sie können importieren Sie Dateien von Ihrem Laufwerk und jedes mal, wenn Sie fertig sind mit der Datei können Sie speichern Sie es zurück.
Montieren Sie die google drive, um Ihre Colab Sitzung
können Sie einfach schreiben, um google-Laufwerk als würden Sie zu einer lokalen Datei-system
Nun, wenn Sie sehen, Sie Ihr google drive geladen werden, die in der Registerkarte "Dateien". Sie haben nun Zugriff auf eine Datei von Ihrem colab, Sie können schreiben, wie auch Lesen zu können. Die änderungen erfolgen in Echtzeit auf der Festplatte, und jemand, der über den link Zugriff auf Ihre Datei anzeigen, können Sie die änderungen, indem Sie von Ihrem colab.
Beispiel
InformationsquelleAutor Himanshu Poddar
Danke für die tollen Antworten!
Schnellste Weg, um ein paar ein-aus-Dateien zu Colab von Google drive:
Laden Sie das Laufwerk Helfer und mount
Diese fordert für die Zulassung.
Öffnen Sie den link in einem neuen tab-> Sie erhalten einen code - kopieren, zurück in die Eingabeaufforderung
Sie haben nun Zugriff auf google drive
check:
dann kopieren Sie die Datei(en) nach Bedarf:
bestätigen, dass die Dateien kopiert wurden:
InformationsquelleAutor H-San
Können Sie machen Sie einfach Gebrauch von den code-snippets auf der linken Seite des Bildschirms.
geben Sie eine Bild-Beschreibung hier
Einfügen "Montage von Google Drive in Ihrem VM"
führen Sie den code, und kopieren&fügen Sie den code in der URL
und dann verwenden !ls, überprüfen Sie die Verzeichnisse
den meisten Fällen finden Sie, was Sie wollen, in das Verzeichnis "/gdrive/My drive"
dann können Sie tragen es aus wie diese:
InformationsquelleAutor VGA Lee
Bin ich faul, und mein Gedächtnis ist schlecht, also habe ich beschlossen zu erstellen easycolab, die ist leichter zu merken und Typ:
Stellen Sie sicher, um es zu installieren zuerst:
!pip install easycolab
Den
mount()
Methode im Grunde implementieren:InformationsquelleAutor Fernando Wittmann
@wenkesj
Ich spreche kopieren Sie das Verzeichnis und allen Unterverzeichnissen.
Für mich, ich habe eine Lösung gefunden, die wie folgt aussieht:
Trotzdem, ich sieht aus wie gDrive nicht gefällt, zu kopieren, zu viel Dateien.
InformationsquelleAutor Scitator
Gibt es viele Möglichkeiten, um die Dateien Lesen, die in Ihrem colab notebook(**.ipnb), ein paar sind:
Methode 1 und 2 für mich gearbeitet, rest ich war nicht in der Lage, um herauszufinden. Wenn jeder könnte, wie andere versuchten im obigen post schreiben Sie uns bitte eine elegante Antwort. vielen Dank im Voraus.!
Erste Methode:
War ich nicht in der Lage zu montieren meinem google-Laufwerk, so dass ich diese installiert Bibliotheken
Sobald die installation & authorization-Prozess abgeschlossen ist, müssen Sie zuerst montieren Sie Ihr Laufwerk.
Nach der installation war ich in der Lage zu montieren die google-Laufwerk, alles in google drive startet von /content/Laufwerk
Sie können jetzt Lesen Sie einfach die Datei aus
path_to_your_folder
Ordner in pandas mit dem oben angegebenen Pfad.Zweite Methode:
Das ist bequem, wenn Sie Ihre Datei, die Sie Lesen wollen, es ist das aktuelle Arbeitsverzeichnis.
Wenn Sie brauchen, um das hochladen von Dateien von Ihrem lokalen Datei-system, können Sie folgenden code verwenden, sonst vermeiden Sie es einfach.!
angenommen, Sie haben unten die Ordner-Hierarchie in der google drive:
Dann müssen Sie einfach nur folgenden code zum laden in den pandas.
InformationsquelleAutor anu