Ultima domanda su Libtorch

0
Answer

Output incoerente tra Python e LibTorch C++ durante l'esportazione per iOS

Ho addestrato il modello HuggingFace RoBERTa per i miei dati (è un utilizzo molto particolare -da qui il piccolo modello/vocabolario!) e l'ho testato con successo su Python. Ho esportato il modello tracciato in LibTorch per iOS, ma i risultati della previsione sul dispositivo non corrispondono a quelli in Python (fornendo diversi indici di token argmax). Il mio script di conversione:

objective c++ pytorch libtorch

0
Answer

Lettura da array cuda in torch c++ senza trasferire array alla CPU

Sto cercando di leggere l'array cuda situato nella GPU in torch c++ cuda. Anche se ho letto l'array, ma sembra che l'array stia prima trasferendo l'array cuda alla CPU e poi di nuovo in torch trasferisce l'array a cuda nel suo framework. Posso dirlo perché l'utilizzo della CPU è piuttosto elevato e il trasferimento dell'array alla torcia non è così fluido. Sto usando il seguente codice, che funziona.

c++ python 3.x pytorch libtorch torch

0
Answer

Come usare torch::get_hash in libtorch?

Finora ho provato a ottenere l'hash di un paio di moduli in libtorch senza alcun risultato. In libtorch ci sono diverse funzioni relative all'hashing come: get_hash e simple_hash_get che sono definiti in torch/csrc/utils/hash.h.

libtorch c++

Hot Tags

© 2021   Risposta.org