# SOME DESCRIPTIVE TITLE.
# Copyright (C) 2023, Xorbits Inc.
# This file is distributed under the same license as the Xinference package.
# FIRST AUTHOR <EMAIL@ADDRESS>, 2024.
#
msgid ""
msgstr ""
"Project-Id-Version: Xinference\n"
"Report-Msgid-Bugs-To: \n"
"POT-Creation-Date: 2024-05-31 11:46+0800\n"
"PO-Revision-Date: YEAR-MO-DA HO:MI+ZONE\n"
"Last-Translator: FULL NAME <EMAIL@ADDRESS>\n"
"Language-Team: it <LL@li.org>\n"
"Language: it\n"
"MIME-Version: 1.0\n"
"Content-Type: text/plain; charset=utf-8\n"
"Content-Transfer-Encoding: 8bit\n"
"Plural-Forms: nplurals=2; plural=(n != 1);\n"
"Generated-By: Babel 2.18.0\n"

#: ../../source/development/xinference_internals.rst:3
msgid "The internals of Xinference"
msgstr "Struttura interna di Xinference"

#: ../../source/development/xinference_internals.rst:6
msgid "Table of contents:"
msgstr "Indice"

#: ../../source/development/xinference_internals.rst:9
msgid "Overview"
msgstr "Panoramica"

#: ../../source/development/xinference_internals.rst:10
msgid ""
"Xinference leverages `Xoscar <https://github.com/xorbitsai/xoscar>`_, an "
"actor programming framework we designed, as its core component to manage "
"machines, devices, and model inference processes. Each actor serves as a "
"basic unit for model inference and various inference backends can be "
"integrate into the actor, enabling us to support multiple inference engines "
"and hardware. These actors are hosted and scheduled within actor pools, "
"which are designed to be asynchronous and non-blocking and function as "
"resource pools."
msgstr ""
"Xinference utilizza il framework di programmazione actor da noi progettato, "
"`Xoscar <https://github.com/xorbitsai/xoscar>`_, come suo componente "
"principale per gestire macchine, dispositivi e processi di inferenza dei "
"modelli. Ogni actor è l'unità base dell'inferenza dei modelli, e vari "
"backend di inferenza possono essere integrati negli actor, permettendoci di "
"supportare molteplici motori di inferenza e hardware. Questi actor sono "
"ospitati e schedulati in un pool di actor, che funge da pool di risorse. Il "
"design degli actor è asincrono e non bloccante."

#: ../../source/development/xinference_internals.rst:22
msgid ""
"Both supervisor and worker are actor instances. Initially, an actor pool, "
"serving as a resource pool, needs to be created on each server; and each "
"actor can utilize a CPU core or a GPU device. Each server has its own "
"address (IP address or hostname), so actors on different computing nodes can"
" communicate with each other through these addresses. See `Actor`_ for more "
"information."
msgstr ""
"Sia supervisor che worker sono istanze di actor. È necessario prima creare "
"un pool di actor come pool di risorse su ciascun server; ogni actor può "
"utilizzare un core della CPU o un dispositivo GPU. Ogni server ha il proprio"
" indirizzo (indirizzo IP o nome host), quindi gli actor su diversi nodi di "
"calcolo possono comunicare tra loro tramite questi indirizzi. Per maggiori "
"informazioni, consulta `Actor`_."

#: ../../source/development/xinference_internals.rst:27
msgid "RESTful API"
msgstr "RESTful API"

#: ../../source/development/xinference_internals.rst:28
msgid ""
"The RESTful API is implemented using `FastAPI "
"<https://github.com/tiangolo/fastapi>`_, as specified in `api/restful_api.py"
" "
"<https://github.com/xorbitsai/inference/tree/main/xinference/api/restful_api.py>`_."
msgstr ""
"RESTful API è implementato utilizzando `FastAPI "
"<https://github.com/tiangolo/fastapi>`_, con il codice specifico in "
"`api/restful_api.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/api/restful_api.py>`_."

#: ../../source/development/xinference_internals.rst:35
msgid ""
"This is an example of the API ``/status``, it's corresponding function is "
"``get_status``. You can add connection between RESTful API and the backend "
"function you want in `api/restful_api.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/api/restful_api.py>`_."
msgstr ""
"Questo è un esempio di API, dove l'API ``/status`` corrisponde alla funzione"
" ``get_status``. È possibile aggiungere la relazione tra l'API RESTful e la "
"funzione backend corrispondente in `api/restful_api.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/api/restful_api.py>`_."

#: ../../source/development/xinference_internals.rst:39
msgid "Command Line"
msgstr "Riga di comando"

#: ../../source/development/xinference_internals.rst:40
msgid ""
"The Command Line is implemented using `Click "
"<https://click.palletsprojects.com/>`_, as specified in `deploy/cmdline.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/deploy/cmdline.py>`_,"
" allowing users to interact with the Xinference deployment features directly"
" from the terminal."
msgstr ""
"La riga di comando è implementata tramite `Click "
"<https://click.palletsprojects.com/>`_, con il codice specifico in "
"`deploy/cmdline.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/deploy/cmdline.py>`_."
" La riga di comando consente agli utenti di interagire direttamente con "
"Xinference dal terminale."

#: ../../source/development/xinference_internals.rst:45
msgid "Entry Points"
msgstr "Punto di ingresso"

#: ../../source/development/xinference_internals.rst:46
msgid "Take the command-lines we implemented as examples:"
msgstr "Prendiamo come esempio la riga di comando che abbiamo implementato:"

#: ../../source/development/xinference_internals.rst:48
msgid ""
"``xinference``: Provides commands for model management, including "
"registering/unregistering models, listing all registered/running models, and"
" launching or terminating specific models. It also features interactive "
"commands like generate and chat for testing and interacting with deployed "
"models in real-time."
msgstr ""
"``xinference``：fornisce comandi per la gestione dei modelli, inclusi "
"registrazione/annullamento della registrazione dei modelli, elenco di tutti "
"i modelli registrati/in esecuzione, nonché avvio o terminazione di modelli "
"specifici. Offre inoltre comandi interattivi come generazione del linguaggio"
" e chat per testare o interagire con i modelli distribuiti."

#: ../../source/development/xinference_internals.rst:52
msgid "``xinference-local``: Starts a local Xinference service."
msgstr "``xinference-local``: avvia un servizio Xinference locale."

#: ../../source/development/xinference_internals.rst:54
msgid ""
"``xinference-supervisor``: Initiates a supervisor process that manages and "
"monitors worker actors within a distributed setup."
msgstr ""
"``xinference-supervisor``：avvia il processo supervisor, che gestisce e "
"monitora gli attori worker in un ambiente distribuito."

#: ../../source/development/xinference_internals.rst:56
msgid ""
"``xinference-worker``: Starts a worker process that executes tasks assigned "
"by the supervisor, utilizing available computational resources effectively."
msgstr ""
"``xinference-worker``: avvia il processo worker, utilizzando le risorse di "
"calcolo disponibili per eseguire i compiti assegnati dal supervisor."

#: ../../source/development/xinference_internals.rst:59
msgid ""
"Each command is equipped with ``options`` and ``flags`` to customize its "
"behavior, such as specifying log levels, host addresses, port numbers, and "
"other relevant settings."
msgstr ""
"Ogni comando è dotato di ``option`` e ``flag``, che ne consentono la "
"personalizzazione del comportamento, ad esempio specificando il livello di "
"log, l'indirizzo host, il numero di porta e altre impostazioni correlate."

#: ../../source/development/xinference_internals.rst:62
msgid ""
"Python projects define command-line console entry points in "
"``pyproject.toml``."
msgstr ""
"I progetti Python definiscono i punti di ingresso della console a riga di "
"comando in ``pyproject.toml``."

#: ../../source/development/xinference_internals.rst:72
msgid ""
"The command-line ``xinference`` can be referred to code in "
"``xinference.deploy.cmdline:cli``."
msgstr ""
"La riga di comando ``xinference`` può fare riferimento al codice in "
"``xinference.deploy.cmdline:cli``."

#: ../../source/development/xinference_internals.rst:75
msgid "Click"
msgstr "Click"

#: ../../source/development/xinference_internals.rst:76
msgid "We use Click to implement a specific command-line:"
msgstr ""
"Utilizziamo Click per implementare comandi specifici da riga di comando."

#: ../../source/development/xinference_internals.rst:95
msgid ""
"For example, the ``xinference-local`` command allows you to define the host "
"address and port."
msgstr ""
"Ad esempio, il comando ``xinference-local`` consente di definire l'indirizzo"
" host e la porta."

#: ../../source/development/xinference_internals.rst:98
msgid "Actor"
msgstr "Actor"

#: ../../source/development/xinference_internals.rst:99
msgid ""
"Xinference is fundamentally based on `Xoscar "
"<https://github.com/xorbitsai/xoscar>`_, our actor framework, which can "
"manage computational resources and Python processes to support scalable and "
"concurrent programming. The following is a pseudocode demonstrating how our "
"Worker Actor works, the actual Worker Actor is more complex than this."
msgstr ""
"Xinference si basa su `Xoscar <https://github.com/xorbitsai/xoscar>`_, un "
"nostro framework ad attori in grado di gestire risorse di calcolo e processi"
" Python, supportando una programmazione concorrente scalabile. Il seguente "
"pseudocodice illustra il principio di funzionamento dell'Actor Worker, "
"sebbene l'Actor Worker reale sia molto più complesso."

#: ../../source/development/xinference_internals.rst:126
msgid ""
"We use the ``WorkerActor`` as an example to illustrate how we build the "
"Xinference. Each actor class is a standard Python class that inherits from "
"``xoscar.Actor``. An instance of this class is a specific actor within the "
"actor pool."
msgstr ""
"Prendiamo ``WorkerActor`` come esempio per illustrare come creare "
"Xinference. Ogni classe actor è una classe Python standard che eredita da "
"``xoscar.Actor``. Le istanze di questa classe sono attori specifici "
"all'interno del pool di attori."

#: ../../source/development/xinference_internals.rst:130
msgid ""
"**Define Actor Actions**: Each actor needs to define certain actions or "
"behaviors to accomplish specific tasks. For instance, the model inference "
"``WorkerActor`` needs to launch the model (``launch_model``), list the "
"models in this actor (``list_models``), terminate a model "
"(``terminate_model``). There are two special methods worth noting. The "
"``__post_create__`` is invoked before the actor is created, allowing for "
"necessary initializations. The ``__pre_destroy__`` is called after the actor"
" is destroyed, allowing for cleanup or finalization tasks."
msgstr ""
"**Definire il comportamento di un Actor**: ogni actor deve definire "
"determinate azioni o comportamenti per svolgere compiti specifici. Ad "
"esempio, il `WorkerActor` per l'inferenza del modello deve avviare il "
"modello (`launch_model`), elencare i modelli nell'actor (`list_models`) e "
"terminare il modello (`termininate_model`). Ci sono due metodi speciali da "
"notare. `__post_create__` viene chiamato prima della creazione dell'actor "
"per eseguire le inizializzazioni necessarie. Mentre `__pre_destroy__` viene "
"chiamato dopo la distruzione dell'actor per eseguire le attività di pulizia."

#: ../../source/development/xinference_internals.rst:136
msgid ""
"**Reference Actor and Invoke Methods**: When an actor is created, it yields "
"a reference variable so that other actors can reference it. The actor "
"reference can also be referenced with the address. Suppose the "
"``WorkerActor`` is created and the reference variable is ``worker_ref``,  "
"the ``launch_model`` method of this actor class can be invoked by calling "
"``worker_ref.launch_model()``. Even if the actor's method is originally a "
"synchronized method, when called with an actor reference, it will become as "
"an asynchronous method."
msgstr ""
"**Riferimento all'Actor e chiamata di metodi**: Quando si crea un Actor, "
"viene generata una variabile di riferimento, in modo che altri Actor possano"
" farvi riferimento. Un Actor può anche essere referenziato tramite indirizzo"
" IP. Supponendo che sia stato creato ``WorkerActor`` e che la variabile di "
"riferimento sia ``worker_ref``, è possibile chiamare il metodo "
"``launch_model`` della classe Actor tramite ``worker_ref.launch_model()``. "
"Anche se il metodo nell'Actor era originariamente un metodo bloccante "
"tradizionale, quando lo si chiama utilizzando una variabile di riferimento, "
"diventa un metodo asincrono."

#: ../../source/development/xinference_internals.rst:143
msgid ""
"**Inference Engine**: The actor can manage the process, and the inference "
"engine is also a process. In the launch model part of the ``WorkerActor``, "
"we can initialize different inference engines according to the user's need. "
"Therefore, Xinference can support multiple inference engines and can easily "
"adapt to new inference engines in the future."
msgstr ""
"**Motore di inferenza**: Actor può gestire processi, e un motore di "
"inferenza è anch'esso un processo. Nella parte del modello di avvio di "
"``WorkerActor``, possiamo inizializzare diversi motori di inferenza in base "
"alle esigenze dell'utente. Pertanto, Xinference può supportare molteplici "
"motori di inferenza e adattarsi facilmente a nuovi motori di inferenza "
"futuri."

#: ../../source/development/xinference_internals.rst:148
msgid ""
"See `Xoscar document <https://xoscar.dev/en/latest/getting_started/llm-"
"inference.html>`_ for more actor use cases."
msgstr ""
"Consulta la `documentazione di Xoscar "
"<https://xoscar.dev/en/latest/getting_started/llm-inference.html>`_ per "
"ulteriori casi d'uso degli Actor."

#: ../../source/development/xinference_internals.rst:151
msgid "Asynchronous Programming"
msgstr "Programmazione asincrona"

#: ../../source/development/xinference_internals.rst:153
msgid ""
"Both Xinference and Xoscar highly utilize asynchronous programming of "
"``asyncio``. Asynchronous programming is a programming paradigm that does "
"not block. Instead, requests and function calls are issued and executed in "
"the background and results are returned in the future. This enables us to "
"perform activities concurrently."
msgstr ""
"Xinference e Xoscar dipendono fortemente dalla libreria di programmazione "
"asincrona ``asyncio``. La programmazione asincrona è un paradigma di "
"programmazione non bloccante. Rispetto alle tradizionali chiamate di "
"funzione bloccanti, le richieste o le chiamate di funzione nella "
"programmazione asincrona vengono eseguite in background e il risultato viene"
" restituito in un momento futuro. Il vantaggio della programmazione "
"asincrona è che consente di eseguire contemporaneamente molte attività o "
"compiti diversi."

#: ../../source/development/xinference_internals.rst:159
msgid ""
"If you're not familiar with Pythons's ``asyncio``, you can see more "
"tutorials for help:"
msgstr ""
"Se non hai familiarità con ``asyncio`` di Python, puoi consultare ulteriori "
"tutorial per assistenza:"

#: ../../source/development/xinference_internals.rst:161
msgid ""
"`Python Asyncio Tutorial <https://bbc.github.io/cloudfit-public-"
"docs/asyncio/asyncio-part-1.html>`__"
msgstr ""
"`Python Asyncio Tutorial <https://bbc.github.io/cloudfit-public-"
"docs/asyncio/asyncio-part-1.html>`__"

#: ../../source/development/xinference_internals.rst:163
msgid ""
"`Real Python's asyncio Tutorial <https://realpython.com/async-io-python/>`__"
msgstr ""
"`Real Python asyncio Tutorial <https://realpython.com/async-io-python/>`__"

#: ../../source/development/xinference_internals.rst:165
msgid ""
"`Python Official Documentation "
"<https://docs.python.org/3/library/asyncio.html>`__"
msgstr ""
"`Documentazione ufficiale di Python "
"<https://docs.python.org/3/library/asyncio.html>`__"

#: ../../source/development/xinference_internals.rst:169
msgid "Model"
msgstr "modello"

#: ../../source/development/xinference_internals.rst:171
msgid ""
"Xinference supports different types of models including large language "
"models (LLMs), image models, audio models, embedding models, etc. All models"
" are implemented in `model/ "
"<https://github.com/xorbitsai/inference/tree/main/xinference/model>`_."
msgstr ""
"Xinference supporta diversi tipi di modelli, inclusi modelli linguistici di "
"grandi dimensioni (LLM), modelli di immagini, modelli audio, modelli di "
"embedding e altri. Tutti i modelli sono implementati nella cartella `model/ "
"<https://github.com/xorbitsai/inference/tree/main/xinference/model>`_."

#: ../../source/development/xinference_internals.rst:175
msgid "LLM"
msgstr ""

#: ../../source/development/xinference_internals.rst:177
msgid ""
"Take `model/llm/ "
"<https://github.com/xorbitsai/inference/tree/main/xinference/model/llm>`_ "
"for example, it focuses on the management and instantiation of LLMs. It "
"includes detailed implementations for loading, configuring, and deploying "
"LLMs."
msgstr ""
"Prendendo come esempio `model/llm/ "
"<https://github.com/xorbitsai/inference/tree/main/xinference/model/llm>`_, "
"gestisce e avvia principalmente i LLM, inclusi il caricamento, la "
"configurazione e l'esecuzione di modelli linguistici di grandi dimensioni."

#: ../../source/development/xinference_internals.rst:181
msgid ""
"We support many backends such as GGML, PyTorch, and vLLM. Our generated "
"content is compatible with the format of OpenAI, supporting features such as"
" streaming output and returning chat completion format (for chat models "
"only). Therefore, there is a lot of adaptation work to be done after the "
"model generate content. These tasks are not difficult, but they do require "
"some time. When writing this part of the code, please refer to the `OpenAI "
"API documentation <https://platform.openai.com/docs/introduction>`_ and the "
"documentation of various inference backends, and make the necessary "
"adaptations."
msgstr ""
"Supportiamo diversi backend di inferenza, come GGML, PyTorch e vLLM. Il "
"contenuto generato è compatibile con il formato di OpenAI, ad esempio "
"supporta output in streaming (stream) e il modello di dialogo restituisce "
"risposte nel formato chat completion. Pertanto, dopo che il modello ha "
"prodotto il contenuto, è necessario eseguire molto lavoro di adattamento. "
"Questi compiti non sono difficili, ma richiedono un po' di tempo. Quando si "
"scrive questa parte del codice, si prega di fare riferimento alla "
"`documentazione dell'API di OpenAI "
"<https://platform.openai.com/docs/introduction>`_ e alla documentazione dei "
"vari backend di inferenza per eseguire gli adattamenti necessari."

#: ../../source/development/xinference_internals.rst:185
msgid "JSON"
msgstr ""

#: ../../source/development/xinference_internals.rst:187
msgid ""
"In `model/llm/llm_family.json "
"<https://github.com/xorbitsai/inference/blob/main/xinference/model/llm/llm_family.json>`_,"
" we utilize JSON files to manage the metadata of emerging open-source "
"models. Adding a new model does not necessitate writing new code, it merely "
"requires appending new metadata to the existing JSON file."
msgstr ""
"In `model/llm/llm_family.json "
"<https://github.com/xorbitsai/inference/blob/main/xinference/model/llm/llm_family.json>`_"
" utilizziamo file JSON per gestire i metadati dei nuovi modelli open source."
" Per aggiungere un nuovo modello non è necessario scrivere nuovo codice, "
"basta aggiungere i nuovi metadati al file JSON esistente."

#: ../../source/development/xinference_internals.rst:214
msgid ""
"This is an example of how to define the Llama-2 chat model. The "
"``model_specs`` define the information of the model, as one model family "
"usually comes with various sizes, quantization methods, and file formats. "
"For instance, the ``model_format`` could be ``pytorch`` (using Hugging Face "
"Transformers or vLLM as backend), ``ggmlv3`` (a tensor library associated "
"with llama.cpp), or ``gptq`` (a post-training quantization framework). The "
"``model_id`` defines the repository of the model hub from which Xinference "
"downloads the checkpoint files. Furthermore, due to distinct instruction-"
"tuning processes, different model families have varying prompt styles. The "
"``prompt_style`` in the JSON file specifies how to format prompts for this "
"particular model. For example, ``system_prompt`` and ``roles`` are used to "
"specify the instructions and personality of the model."
msgstr ""
"Ecco un esempio di come definire il modello di chat Llama-2. ``model_specs``"
" definisce le informazioni del modello, poiché una famiglia di modelli ha "
"spesso diverse dimensioni, metodi di quantizzazione e formati di file. Ad "
"esempio, ``model_format`` può essere ``pytorch`` (usando Hugging Face "
"Transformers o vLLM come backend), ``ggmlv3`` (relativo alla libreria di "
"tensori llama.cpp) o ``gptq`` (framework di quantizzazione post-"
"addestramento). ``model_id`` definisce il repository nel modello hub, da cui"
" Xinference scarica i file dei checkpoint. Inoltre, a causa di diversi "
"processi di fine-tuning delle istruzioni, diverse famiglie di modelli hanno "
"stili di prompt differenti. ``prompt_style`` nel file JSON specifica il "
"formato del prompt per quel particolare modello. Ad esempio, "
"``system_prompt`` e ``roles`` vengono utilizzati per specificare le "
"istruzioni e la personalità del modello."

#: ../../source/development/xinference_internals.rst:224
msgid "Code Walkthrough"
msgstr "Guida al codice"

#: ../../source/development/xinference_internals.rst:226
msgid ""
"The main code is located in the `xinference/ "
"<https://github.com/xorbitsai/inference/tree/main/xinference>`_:"
msgstr ""
"Il codice principale si trova in `xinference/ "
"<https://github.com/xorbitsai/inference/tree/main/xinference>`_:"

#: ../../source/development/xinference_internals.rst:228
msgid ""
"`api/ <https://github.com/xorbitsai/inference/tree/main/xinference/api>`_: "
"`restful_api.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/api/restful_api.py>`_"
" is the core part that sets up and runs the RESTful APIs. It integrates an "
"authentication service (the specific code is located in `oauth2/ "
"<https://github.com/xorbitsai/inference/tree/main/xinference/api/oauth2>`_),"
" as some or all endpointsrequire user authentication."
msgstr ""
"`api/ "
"<https://github.com/xorbitsai/inference/tree/main/xinference/api>`_：`restful_api.py"
" "
"<https://github.com/xorbitsai/inference/tree/main/xinference/api/restful_api.py>`_"
" è la parte centrale per la configurazione e l'esecuzione delle API RESTful."
" Integra un servizio di autenticazione (il codice specifico si trova in "
"`oauth2/ "
"<https://github.com/xorbitsai/inference/tree/main/xinference/api/oauth2>`_),"
" poiché alcune o tutte le porte richiedono l'autenticazione dell'utente."

#: ../../source/development/xinference_internals.rst:233
msgid ""
"`client/ "
"<https://github.com/xorbitsai/inference/tree/main/xinference/client>`_: This"
" is the client of Xinference."
msgstr ""
"`client/ "
"<https://github.com/xorbitsai/inference/tree/main/xinference/client>`_: "
"Questo è il client di Xinference."

#: ../../source/development/xinference_internals.rst:235
msgid ""
"`oscar/ "
"<https://github.com/xorbitsai/inference/tree/main/xinference/client/oscar>`_"
" defines the Actor Client which acts as a client interface for interacting "
"with models deployed in a Xinference cluster."
msgstr ""
"`oscar/ "
"<https://github.com/xorbitsai/inference/tree/main/xinference/client/oscar>`_"
" definisce il client Actor, un'interfaccia client utilizzata per interagire "
"con i modelli in Xinference."

#: ../../source/development/xinference_internals.rst:238
msgid ""
"`restful/ "
"<https://github.com/xorbitsai/inference/tree/main/xinference/client/restful>`_"
" implements a RESTful client for interacting with a Xinference service."
msgstr ""
"`restful/ "
"<https://github.com/xorbitsai/inference/tree/main/xinference/client/restful>`_"
" implementa il client RESTful per interagire con il servizio Xinference."

#: ../../source/development/xinference_internals.rst:241
msgid ""
"`core/ <https://github.com/xorbitsai/inference/tree/main/xinference/core>`_:"
" This is the core part of Xinference."
msgstr ""
"`core/ "
"<https://github.com/xorbitsai/inference/tree/main/xinference/core>`_：Questa "
"è la parte principale di Xinference."

#: ../../source/development/xinference_internals.rst:243
msgid ""
"`metrics.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/core/metrics.py>`_"
" and `resource.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/core/resource.py>`_"
" defines a set of tools for collecting and reporting metrics and the status "
"of node resources, including model throughput, latency, the usage of CPU and"
" GPU, memory usage, and more."
msgstr ""
"`metrics.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/core/metrics.py>`_"
" e `resource.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/core/resource.py>`_"
" definiscono un insieme di strumenti per la raccolta e la segnalazione di "
"metriche e dello stato delle risorse dei nodi, inclusi la produttività del "
"modello, la latenza, l'utilizzo di CPU e GPU, l'utilizzo della memoria e "
"altro."

#: ../../source/development/xinference_internals.rst:248
msgid ""
"`image_interface.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/core/image_interface.py>`_"
" and `chat_interface.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/core/chat_interface.py>`_"
" implement `Gradio <https://github.com/gradio-app/gradio>`_ interfaces for "
"image and chat models, respectively. These interfaces allow users to "
"interact with models through a Web UI, such as generating images or engaging"
" in chat. They build user interfaces using the gradio package and "
"communicate with backend models through our RESTful APIs."
msgstr ""
"`image_interface.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/core/image_interface.py>`_"
" e `chat_interface.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/core/chat_interface.py>`_"
" implementano rispettivamente l'interfaccia `Gradio "
"<https://github.com/gradio-app/gradio>`_ per i modelli di immagini e chat. "
"Queste interfacce consentono agli utenti di interagire con i modelli tramite"
" un'interfaccia web, ad esempio per generare immagini o effettuare chat. Il "
"codice utilizza il pacchetto Gradio per creare l'interfaccia utente e "
"comunica con i modelli backend tramite la nostra API RESTful."

#: ../../source/development/xinference_internals.rst:254
msgid ""
"`worker.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/core/worker.py>`_"
" and `supervisor.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/core/supervisor.py>`_"
" respectively define the logic for worker actors and supervisor actor. "
"Worker actors are responsible for carrying out specific model computation "
"tasks, while supervisor actors manage the lifecycle of worker nodes, "
"schedule tasks, and monitor system states."
msgstr ""
"`worker.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/core/worker.py>`_"
" e `supervisor.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/core/supervisor.py>`_"
" definiscono rispettivamente la logica dell'attore worker e dell'attore "
"supervisor. L'attore worker è responsabile dell'esecuzione di specifici "
"compiti di calcolo del modello, mentre l'attore supervisor gestisce il ciclo"
" di vita dei nodi Worker e la pianificazione dei compiti, oltre a monitorare"
" lo stato del sistema."

#: ../../source/development/xinference_internals.rst:259
msgid ""
"`status_guard.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/core/status_guard.py>`_"
" implements a status monitor to track the status of models (like creating, "
"updating, terminating, etc.). It allows querying status information of model"
" instances and managing these statuses based on the model's UID."
msgstr ""
"`status_guard.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/core/status_guard.py>`_"
" implementa un monitor di stato utilizzato per tracciare lo stato del "
"modello (come creazione, aggiornamento, terminazione, ecc.). Consente di "
"interrogare le informazioni sullo stato dell'istanza del modello in base al "
"suo UID."

#: ../../source/development/xinference_internals.rst:263
msgid ""
"`cache_tracker.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/core/cache_tracker.py>`_"
" defines a cache tracker for recording and managing cache status and "
"information of model versions. It supports recording cache locations and "
"statuses of model versions and querying model version information based on "
"model names."
msgstr ""
"`cache_tracker.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/core/cache_tracker.py>`_"
" definisce un tracciatore di cache, utilizzato per registrare e gestire lo "
"stato della cache e le informazioni sulla versione del modello. Supporta la "
"registrazione della posizione della cache e dello stato della versione del "
"modello, nonché la query delle informazioni sulla versione del modello in "
"base al nome del modello."

#: ../../source/development/xinference_internals.rst:267
msgid ""
"`event.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/core/event.py>`_"
" defines an event collector for gathering and reporting various runtime "
"events of models, such as information, warnings, and errors. `model.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/core/model.py>`_"
" defines a Model Actor, the core component for direct model interactions. "
"The Model Actor is responsible for executing model inference requests, "
"handling input and output data streams, and supports various types of model "
"operations."
msgstr ""
"`event.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/core/event.py>`_"
" definisce un raccoglitore di eventi per raccogliere e segnalare vari eventi"
" del modello in esecuzione, come informazioni, avvisi ed errori. `model.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/core/model.py>`_"
" definisce un attore del modello, che è il componente centrale per "
"interagire direttamente con il modello. L'attore del modello è responsabile "
"dell'esecuzione delle richieste di inferenza del modello, della gestione dei"
" flussi di dati in input e output e del supporto di varie operazioni del "
"modello. Entrambe le parti utilizzano `Xoscar "
"<https://github.com/xorbitsai/xoscar>`_ per l'esecuzione concorrente e "
"distribuita."

#: ../../source/development/xinference_internals.rst:273
msgid ""
"`deploy/ "
"<https://github.com/xorbitsai/inference/tree/main/xinference/deploy>`_: It "
"provides a command-line interface (CLI) for interacting with the Xinference "
"framework, allowing users to perform operations by command line. See "
"`Command Line`_ for more information."
msgstr ""
"`deploy/ "
"<https://github.com/xorbitsai/inference/tree/main/xinference/deploy>`_: "
"fornisce un'interfaccia a riga di comando (CLI) per interagire con il "
"framework Xinference, consentendo agli utenti di operare tramite riga di "
"comando. Per maggiori informazioni, consultare `Command Line`_."

#: ../../source/development/xinference_internals.rst:276
msgid ""
"`locale/ "
"<https://github.com/xorbitsai/inference/tree/main/xinference/locale>`_: It "
"supports multi-language localization. By simply adding and updating JSON "
"translation files, it becomes possible to support more languages, improving "
"user experience."
msgstr ""
"`locale/ "
"<https://github.com/xorbitsai/inference/tree/main/xinference/locale>`_: "
"supporta la localizzazione multilingua. È sufficiente aggiungere e "
"aggiornare i file JSON di traduzione per supportare più lingue, migliorando "
"l'esperienza utente."

#: ../../source/development/xinference_internals.rst:279
msgid ""
"`model/ "
"<https://github.com/xorbitsai/inference/tree/main/xinference/model>`_: It "
"provides a structure for model descriptions, creation, and caching. See "
"`Model`_ for more information."
msgstr ""
"`model/ "
"<https://github.com/xorbitsai/inference/tree/main/xinference/model>`_: "
"fornisce un framework per la descrizione, creazione e memorizzazione nella "
"cache dei modelli. Vedere `Model`_ per maggiori informazioni."

#: ../../source/development/xinference_internals.rst:282
msgid ""
"`web/ui/ "
"<https://github.com/xorbitsai/inference/tree/main/xinference/web/ui>`_: The "
"js code of the frontend (Web UI)."
msgstr ""
"`web/ui/ "
"<https://github.com/xorbitsai/inference/tree/main/xinference/web/ui>`_: "
"codice JavaScript del frontend (interfaccia utente)."

#~ msgid ""
#~ "Xinference supports different types of models including large language "
#~ "models (LLMs), image models, audio models, embedding models, etc"
#~ msgstr ""
#~ "Xinference supporta diversi tipi di modelli, inclusi modelli di linguaggio "
#~ "di grandi dimensioni (LLM), modelli per immagini, modelli audio, modelli di "
#~ "embedding e altri. Tutti i modelli sono implementati in `model/ "
#~ "<https://github.com/xorbitsai/inference/tree/main/xinference/model>`_. "
#~ "Prendendo come esempio `llm/ "
#~ "<https://github.com/xorbitsai/inference/tree/main/xinference/model/llm>`_, "
#~ "esso si concentra sulla gestione e l'istanziazione degli LLM. Include "
#~ "implementazioni dettagliate per il caricamento, la configurazione e il "
#~ "deployment degli LLM, compresa la gestione di diversi tipi di quantizzazione"
#~ " e formati di modelli. All'interno di `llm/ "
#~ "<https://github.com/xorbitsai/inference/tree/main/xinference/model/llm>`_, "
#~ "supporta molti backend, come `GGML "
#~ "<https://github.com/xorbitsai/inference/tree/main/xinference/model/llm/ggml>`_,"
#~ " `PyTorch "
#~ "<https://github.com/xorbitsai/inference/tree/main/xinference/model/llm/pytorch>`_,"
#~ " `SGLang "
#~ "<https://github.com/xorbitsai/inference/tree/main/xinference/model/llm/sglang>`_"
#~ " e `vLLM "
#~ "<https://github.com/xorbitsai/inference/tree/main/xinference/model/llm/vllm>`_."

#~ msgid ""
#~ "Take `llm/ "
#~ "<https://github.com/xorbitsai/inference/tree/main/xinference/model/llm>`_ "
#~ "for example, it focuses on the management and instantiation of LLMs. It "
#~ "includes detailed implementations for loading, configuring, and deploying "
#~ "LLMs, including handling different types of quantization and model formats. "
#~ "In `llm/ "
#~ "<https://github.com/xorbitsai/inference/tree/main/xinference/model/llm>`_, "
#~ "it supports many backends such as `GGML "
#~ "<https://github.com/xorbitsai/inference/tree/main/xinference/model/llm/ggml>`_,"
#~ " `PyTorch "
#~ "<https://github.com/xorbitsai/inference/tree/main/xinference/model/llm/pytorch>`_,"
#~ " `SGLang "
#~ "<https://github.com/xorbitsai/inference/tree/main/xinference/model/llm/sglang>`_"
#~ " and `vLLM "
#~ "<https://github.com/xorbitsai/inference/tree/main/xinference/model/llm/vllm>`_."
#~ msgstr ""
#~ "Tutti i modelli sono implementati in `model/ "
#~ "<https://github.com/xorbitsai/inference/tree/main/xinference/model>`_. "
#~ "Prendendo `llm/ "
#~ "<https://github.com/xorbitsai/inference/tree/main/xinference/model/llm>`_ "
#~ "come esempio, si concentra sulla gestione e sull'istanziazione degli LLM. "
#~ "Include implementazioni dettagliate per il caricamento, la configurazione e "
#~ "la distribuzione degli LLM, inclusa la gestione di diversi tipi di "
#~ "quantizzazione e formati di modello. All'interno di `llm/ "
#~ "<https://github.com/xorbitsai/inference/tree/main/xinference/model/llm>`_, "
#~ "supporta molti backend come `GGML "
#~ "<https://github.com/xorbitsai/inference/tree/main/xinference/model/llm/ggml>`_,"
#~ " `PyTorch "
#~ "<https://github.com/xorbitsai/inference/tree/main/xinference/model/llm/pytorch>`_,"
#~ " `SGLang "
#~ "<https://github.com/xorbitsai/inference/tree/main/xinference/model/llm/sglang>`_"
#~ " e `vLLM "
#~ "<https://github.com/xorbitsai/inference/tree/main/xinference/model/llm/vllm>`_."

#~ msgid ""
#~ "All models are implemented in `model/ "
#~ "<https://github.com/xorbitsai/inference/tree/main/xinference/model>`_."
#~ msgstr ""
#~ "Tutti i modelli sono implementati in `model/ "
#~ "<https://github.com/xorbitsai/inference/tree/main/xinference/model>`_."

#~ msgid ""
#~ "In ``model/llm/``, it supports many backends such as GGML, PyTorch, and "
#~ "vLLM."
#~ msgstr ""
#~ "Sotto ``model/llm/``, supportiamo molti backend, come GGML, PyTorch e vLLM."

#~ msgid ""
#~ "`oscar/ "
#~ "<https://github.com/xorbitsai/inference/tree/main/xinference/client/oscar>`_"
#~ " defines the Actor Client which acts as a client interface for interacting "
#~ "with models deployed in a server environment. It includes functionalities to"
#~ " register/unregister models, launch/terminate models, and interact with "
#~ "different types of models. This part heavily utilizes ``asyncio`` for "
#~ "asynchronous operations. See `Concurrency`_ for more information."
#~ msgstr ""
#~ "`oscar/ "
#~ "<https://github.com/xorbitsai/inference/tree/main/xinference/client/oscar>`_"
#~ " definisce il client Actor, un'interfaccia client per interagire con i "
#~ "modelli distribuiti in ambiente server. Include funzionalità per "
#~ "registrare/annullare la registrazione di modelli, avviare/terminare modelli "
#~ "e interagire con diverse tipologie di modelli. Questa parte utilizza "
#~ "principalmente ``asyncio`` per le operazioni asincrone. Per maggiori "
#~ "informazioni, consultare `Concurrency`_."

#~ msgid "Concurrency"
#~ msgstr "Concorrenza"

#~ msgid ""
#~ "Both Xinference and Xoscar highly utilize coroutine programming of "
#~ "``asyncio``."
#~ msgstr ""
#~ "Xinference e Xoscar utilizzano entrambi in modo intensivo ``asyncio`` per la"
#~ " programmazione con coroutine."
