Ti stai chiedendo come integrare Bard e Vertex AI di Google tramite API REST http in una applicazione? Vorresti capire meglio cos'è e come funziona Vertex AI di Google e quali sono le differenze con Google Bard?
Allora seguimi in questo articolo nel quale vedremo insieme cos'è Vertex AI e come integrarlo in una applicazione usando le API RESTful messe a disposizione da Google tramite la Google Cloud Platform (GPC).
Inoltre cercheremo di capire le sostanziali differenze tra Vertex AI e Google Bard in termini di peculiarità su AI Generativa e modelli utilizzati, senza dimenticare ChatGPT.
I contenuti dell'articolo
Vertex AI vs Google Bard vs ChatGPT: Facciamo Chiarezza
Proprio in questo periodo Google ha reso disponibile anche per il mercato italiano la sua piattaforma di ChatBot basato sull' Intelligenza Artificiale Generativa chiamata Bard, puoi testarla liberamente a questo indirizzo: https://bard.google.com/
Bard è molto simile a ChatGPT, se vuoi saperne di più su ChatGPT ne parlo in questo articolo
Ovviamente sono diversi i modelli e soprattutto è diversa l'esperienza utente ed i dati utilizzati per l'addestramento, infatti mentre ChatGPT ha dei limiti temporali superiori all'anno, in Google Bard i dati aggiornati molto più recenti.
Anche i risultati delle risposte al momento in cui scrivo hanno delle differenze sostanziali in quanto ChatGPT con il modello gpt-4 sembra generare testi e codice molto più accurati e specifici di quanto non faccia Bard nella sua versione sperimentale.
Inoltre Google avendo rilasciato Bard in versione “experimental” non ha (ancora) reso disponibili le API di interfaccia per l'integrazione in applicazioni, mentre OpenAI e ChatGPT sono facilmente integrabili grazie alla vasta documentazione presente sul loro portale.
Ecco quindi che potrebbe fare al caso tuo Vertex AI, la Piattaforma di Apprendimento Automatico di Google ampiamente documentata ed integrabile tramite Google Cloud Platform.
Bard e Vertex AI sono entrambi prodotti di intelligenza artificiale di Google, ma hanno scopi diversi.
Bard è un modello linguistico fattuale di grandi dimensioni, mentre Vertex AI è una piattaforma di apprendimento automatico.
Bard è addestrato su un enorme set di dati di testo e codice, ed è in grado di generare testo, tradurre lingue, scrivere diversi tipi di contenuti creativi e rispondere alle tue domande in modo informativo. Vertex AI, invece, semplifica la creazione, il training e il deployment di modelli di apprendimento automatico. Fornisce una serie di strumenti e servizi per aiutarti a gestire l'intero ciclo di vita del tuo modello di apprendimento automatico, dalla raccolta dei dati alla valutazione del modello.
In definitiva, Bard è uno strumento per la generazione di testo e codice, mentre Vertex AI è una piattaforma per la creazione e la gestione di modelli di apprendimento automatico.
Come puoi ben vedere Vertex AI è uno strumento molto più potente, complesso ed anche costoso rispetto a Google Bard, noi però in questo articolo ci limiteremo ad analizzarne le caratteristiche in termini di integrazione in attesa che Google pubblichi le API anche di Bard e che, immagino, saranno integrabili in modo del tutto analogo.
Come accedere al playground di Vertex AI
In questo articolo pertanto analizzerò Vertex AI e le sue caratteristiche in termini di AI Generativa ed integrazione proprio perché ad oggi non è ancora possibile farlo con Google Bard. Quando verranno rese disponibili anche le API di Google Bard analizzerò e testerò anche quelle, promesso!
💥 In realtà in rete circolano già alcune librerie per pyton e java che permettono di integrare Google Bard in un'applicazione, però sinceramente ho preferito non approfondire in quanto vorrei procedere in modo lineare ed attendere che le API vengano rilasciate ufficialmente da Google in Google Cloud Platform (GPC).
Torniamo quindi a Vertex AI, questi gli step da seguire per utilizzare le API di Vertex AI e poi integrarle in una applicazione.
Accedi a Google Cloud Platform (GPC)
Come prima cosa accedi alla Google Cloud Platform ossia alla piattaforma Cloud evoluta di Google, se non ti sei mai registrato puoi farlo gratuitamente e ricevere un credito gratuito fino a 300$.
Questo il link della console google https://console.cloud.google.com/
Crea un nuovo progetto
Ora che ti sei registrato o ti sei loggato potrai creare un nuovo progetto usando il seguente bottone:
Creato il progetto dovrai selezionarlo usando il menu a tendina nell' header della GPC.
Attiva le API di Vertex AI
Una volta selezionato il progetto dovrai abilitare le API di Vertex AI selezionando dal menu a lato: API e Servizi > Libreria
Ora cerca Vertex API nella casella di ricerca
Poi clicca sul tasto Abilita delle Vertex AI API
Una volta abilitate le API clicca sul bottone “Gestisci” per accedere alla pagina di gestione delle API
Se tutto è andato per il meglio sei pronto a testarne il funzionamento dalla pagina di playground delle Vertex API, raggiungibile a questo link :
https://console.cloud.google.com/vertex-ai/generative/language/create/text?project=[IL_TUO_PROGETTO]
Questa la pagina:
Cliccando su “Visualizza Codice” potrai analizzare meglio come integrale usando cUrl o Pyton.
Contattami per una Consulenza
L'argomento è troppo tecnico? Vorresti integrare Vertex AI ma non hai le competenze per realizzarlo?
Se vuoi approfondire l‘argomento e ti serve un esperto in materia di integrazione tra applicazioni non esitare a contattarmi per una consulenza.
Fissa subito un appuntamento gratuito di 30 minuti, potremo conoscerci meglio e verificare come collaborare!
Come Integrare Vertex AI
Se hai familiarità con il playground di ChatGPT noterai subito notevoli similitudini con quello di Vertex AI.
Infatti sulla destra potrai impostare il tipo di modello da usare, il numero massimo di token, la temperatura ed altre caratteristiche peculiari della risposta.
Nella parte centrale dovrai inserire la domanda e nella parte inferiore riceverai la risposta dall'AI Generativa di Vertex AI.
✋ Purtroppo al momento in cui scrivo l'italiano non è ancora supportato come lingua per cui i test che farò saranno tutti in lingua inglese.
Ora che hai visto e testato il playground di Vertex AI vediamo come integrare le funzionalità in una applicazione, partendo come sempre dalle API Rest.
Una volta testate le API Rest l'integrazione con qualsiasi linguaggio di programmazione sarà semplicissima.
Come Integrare Vertex AI con CUrl e Postman
Vediamo quindi l'esempio più semplice ossia la chiamata ad una API Rest tramite Postman (volendo anche con cUrl).
Come prima cosa accedi nuovamente al playground di Vertex AI e cliccare su “VISUALIZZA CODICE“, poi seleziona il tab CURL:
Utilizza i parametri che trovi a video in relazione a API_ENDPOINT, PROJECT_ID e MODEL_ID
Installa l'sdk di GPC
La prima cosa da fare è installare l'sdk di Google Cloud Platform (GPC) per il tuo computer/sistema operativo.
Scarica il pacchetto scegliendo quello che fa al caso tuo da questa pagina:
https://cloud.google.com/sdk/docs/install-sdk?hl=it
Una volta scaricato il pacchetto estrailo e procedi con l'installazione dell'sdk, ora ti farò vedere come farlo in ambiente mac ma la procedura è ben documentata anche per Windows e Linux.
Accedi alla cartella appena estratta google-cloud-sdk
$ cd /google-cloud-sdk
Lancia l'installazione con il comando
$ ./install.sh
Ed attendi il termine
Inizializza l'sdk e seleziona il progetto
Ora che l'sdk è installato dovrai inizializzarlo e poi selezionare il progetto GPC appena creato, procedi in questo modo.
Accedi alla cartella bin
$ cd /bin
Lancia l'inizializzazione con il comando
$ ./gcloud init
Ora dovrai loggarti dal browser usando il tuo account google e poi dovrai selezionare il progetto dalla riga di comando inserendo il numero relativo:
Genera il token di autorizzazione
Una volta selezionato il progetto e loggato alla GCP potrai generare il token da utilizzare per effettuare le chiamate alle API Rest di Vertex AI.
Per generare il token di autorizzazione lancia il seguente comando:
$ ./gcloud auth print-access-token
Verrà stampata una stringa, copiala e salvala in luogo sicuro
Effettua una chiamata con Postman
Ora che hai salvato la stringa di accesso potrai fare la prima chiamata alle API Generative di Vertex AI impostando i seguenti valori in Postman:
Crea una nuova richiesta di tipo POST ed utilizza la seguente url
https://us-central1-aiplatform.googleapis.com/v1/projects/[IL_TUO_PROGETTO]/locations/us-central1/publishers/google/models/text-bison@001:predict
Nel body inserisci un json con la richiesta ed i settings del modello, simile a questo:
Ora accedi alla voce Headers ed inserisci i seguenti valori:
Dove la voce Authorization: Bearer xxxxxx è proprio il token che hai appena generato e salvato.
Clicca quindi su “Send” e verifica che le API di Vertex funzionino correttamente, dovresti ricevere una response simile a questa:
Io, in inglese, ho chiesto a Vertex di fornirmi le caratteristiche della Fujifilm X-T4 ed il risultato è stato quello che trovi alla voce “content” del json di risposta.
Usa le librerie pyton
Se invece preferisci utilizzare le librerie pyton allora non dovrai far altro che accedere nuovamente al playground di Vertex AI e cliccare su “VISUALIZZA CODICE”
installa l'sdk specifico per pyton, poi utilizza il seguente codice per effettuare una chiamata con i parametri appena impostati:
import vertexai from vertexai.language_models import TextGenerationModel vertexai.init(project="pensandoit", location="us-central1") parameters = { "temperature": 0.2, "max_output_tokens": 256, "top_p": 0.8, "top_k": 40 } model = TextGenerationModel.from_pretrained("text-bison@001") response = model.predict( """What\'s the difference between a fujifilm X-T4 and a sony alpha 6600?""", **parameters ) print(f"Response from Model: {response.text}")
ed il gioco è fatto!
La video recensione
Se preferisci puoi vedere la mia video recensione su come integrare Bard (Vertex AI) di Google in una applicazione
Conclusioni
Se ti stavi chiedendo come integrare Bard e Vertex AI tramite API http in una applicazione spero di aver risposto alla tua domanda.
In questo articolo abbiamo visto insieme cos'è e come funziona Vertex AI, quali sono le differenze con Bard e ChatGPT ma soprattutto ho cercato di porre un accento leggermente più tecnico sul concetto di integrazione.
🧐 Perché ho focalizzato la mia attenzione sull'integrazione?
Perché credo che da oggi saranno sempre più le aziende e quindi gli applicativi che cercheranno di integrarsi nativamente con le piattaforme di Intelligenza Artificiale e le soluzioni Google per sfruttarne caratteristiche e funzionalità.
Quali ripercussioni avrà l'AI Generativa sulle professioni digitali
Ma quali saranno le reali implicazioni di questa tecnologia? Ci saranno davvero ricadute (sia in positivo che in negativo) sul mondo delle professioni digitali legate all'Intelligenza Artificiale?
Io credo che stiamo assistendo alla nascita di una nuova forma di tecnologia che rivoluzionerà il settore.
Al grande pubblico è arrivato solo in questo periodo, sollevando un controverso dibattito su arte, proprietà intellettuale, diritto sulle immagini, copy, sviluppo e scrittura del codice di programmazione da linguaggio naturale.
Io credo che come tutti i cambiamenti epocali (perché è già un cambiamento epocale) sarà necessario viverlo e saperlo sfruttare al meglio, potrebbe aprire incredibili innovazioni e potrebbe dare linfa vitale a tutto il settore tech e digitale.
Altrimenti, chiudendoci a riccio, rischieremmo di fare tutti la fine di Nokia, speriamo solo di non essere noi e le nostre professioni quelli che verranno tagliate fuori dal mercato del futuro.
Forse una riflessione più profonda sul tema andrà affrontata, da tutti, macchine escluse.
E tu? che ne pensi di questa tecnologia e delle implicazioni che potrebbe avere nel settore tech? Hai già usato e/o integrato Vertex AI e Bard nelle tue applicazioni?
👉 Parliamo insieme nei commenti!