# SOME DESCRIPTIVE TITLE.
# Copyright (C) 2023, Xorbits Inc.
# This file is distributed under the same license as the Xinference package.
# FIRST AUTHOR <EMAIL@ADDRESS>, 2024.
#
msgid ""
msgstr ""
"Project-Id-Version: Xinference\n"
"Report-Msgid-Bugs-To: \n"
"POT-Creation-Date: 2024-05-31 11:46+0800\n"
"PO-Revision-Date: YEAR-MO-DA HO:MI+ZONE\n"
"Last-Translator: FULL NAME <EMAIL@ADDRESS>\n"
"Language-Team: ja <LL@li.org>\n"
"Language: ja\n"
"MIME-Version: 1.0\n"
"Content-Type: text/plain; charset=utf-8\n"
"Content-Transfer-Encoding: 8bit\n"
"Plural-Forms: nplurals=1; plural=0;\n"
"Generated-By: Babel 2.18.0\n"

#: ../../source/development/xinference_internals.rst:3
msgid "The internals of Xinference"
msgstr "Xinferenceの内部構造"

#: ../../source/development/xinference_internals.rst:6
msgid "Table of contents:"
msgstr "目次"

#: ../../source/development/xinference_internals.rst:9
msgid "Overview"
msgstr "概要"

#: ../../source/development/xinference_internals.rst:10
msgid ""
"Xinference leverages `Xoscar <https://github.com/xorbitsai/xoscar>`_, an "
"actor programming framework we designed, as its core component to manage "
"machines, devices, and model inference processes. Each actor serves as a "
"basic unit for model inference and various inference backends can be "
"integrate into the actor, enabling us to support multiple inference engines "
"and hardware. These actors are hosted and scheduled within actor pools, "
"which are designed to be asynchronous and non-blocking and function as "
"resource pools."
msgstr ""
"Xinferenceは、我々が設計したアクタープログラミングフレームワーク `Xoscar "
"<https://github.com/xorbitsai/xoscar>`_ "
"を中核コンポーネントとして利用し、マシン、デバイス、モデル推論プロセスを管理します。各アクターはモデル推論の基本単位であり、様々な推論バックエンドをアクターに統合できるため、多様な推論エンジンやハードウェアをサポートすることが可能です。これらのアクターはアクタープールでホストおよびスケジューリングされ、アクタープールはリソースプールの機能を備えています。アクターの設計は非同期かつノンブロッキングです。"

#: ../../source/development/xinference_internals.rst:22
msgid ""
"Both supervisor and worker are actor instances. Initially, an actor pool, "
"serving as a resource pool, needs to be created on each server; and each "
"actor can utilize a CPU core or a GPU device. Each server has its own "
"address (IP address or hostname), so actors on different computing nodes can"
" communicate with each other through these addresses. See `Actor`_ for more "
"information."
msgstr ""
"supervisor と worker はどちらも actor インスタンスです。まず各サーバー上にリソースプールとしての actor "
"プールを作成する必要があります。各 actor は 1 つの CPU コアまたは 1 つの GPU "
"デバイスを使用できます。各サーバーには独自のアドレス（IP アドレスまたはホスト名）があるため、異なる計算ノード上の actor "
"同士はこれらのアドレスを通じて通信できます。詳細については、`Actor`_ を参照してください。"

#: ../../source/development/xinference_internals.rst:27
msgid "RESTful API"
msgstr "RESTful API"

#: ../../source/development/xinference_internals.rst:28
msgid ""
"The RESTful API is implemented using `FastAPI "
"<https://github.com/tiangolo/fastapi>`_, as specified in `api/restful_api.py"
" "
"<https://github.com/xorbitsai/inference/tree/main/xinference/api/restful_api.py>`_."
msgstr ""
"RESTful API は `FastAPI <https://github.com/tiangolo/fastapi>`_ "
"を使って実装されており、具体的なコードは `api/restful_api.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/api/restful_api.py>`_"
" にあります。"

#: ../../source/development/xinference_internals.rst:35
msgid ""
"This is an example of the API ``/status``, it's corresponding function is "
"``get_status``. You can add connection between RESTful API and the backend "
"function you want in `api/restful_api.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/api/restful_api.py>`_."
msgstr ""
"これはAPIの例で、API ``/status`` は関数 ``get_status`` に対応します。`api/restful_api.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/api/restful_api.py>`_"
" にRESTful APIと対応するバックエンド関数の関係を追加することができます。"

#: ../../source/development/xinference_internals.rst:39
msgid "Command Line"
msgstr "コマンドライン"

#: ../../source/development/xinference_internals.rst:40
msgid ""
"The Command Line is implemented using `Click "
"<https://click.palletsprojects.com/>`_, as specified in `deploy/cmdline.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/deploy/cmdline.py>`_,"
" allowing users to interact with the Xinference deployment features directly"
" from the terminal."
msgstr ""
"コマンドラインは `Click <https://click.palletsprojects.com/>`_ で実装されており、具体的なコードは "
"`deploy/cmdline.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/deploy/cmdline.py>`_"
" にあります。コマンドラインにより、ユーザーは端末上で直接 Xinference と対話することができます。"

#: ../../source/development/xinference_internals.rst:45
msgid "Entry Points"
msgstr "エントリーポイント"

#: ../../source/development/xinference_internals.rst:46
msgid "Take the command-lines we implemented as examples:"
msgstr "実装したコマンドラインを例にします："

#: ../../source/development/xinference_internals.rst:48
msgid ""
"``xinference``: Provides commands for model management, including "
"registering/unregistering models, listing all registered/running models, and"
" launching or terminating specific models. It also features interactive "
"commands like generate and chat for testing and interacting with deployed "
"models in real-time."
msgstr ""
"`xinference`：モデル管理のためのコマンドを提供します。モデルの登録/登録解除、すべての登録済み/実行中のモデルの一覧表示、特定モデルの起動または停止が可能です。また、既にデプロイされたモデルをテストまたは対話的に操作するための、言語生成やチャットなどのインタラクティブコマンドも提供されています。"

#: ../../source/development/xinference_internals.rst:52
msgid "``xinference-local``: Starts a local Xinference service."
msgstr "``xinference-local``：ローカルの Xinference サービスを起動します。"

#: ../../source/development/xinference_internals.rst:54
msgid ""
"``xinference-supervisor``: Initiates a supervisor process that manages and "
"monitors worker actors within a distributed setup."
msgstr "``xinference-supervisor``：スーパーバイザープロセスを起動し、分散環境でワーカーアクターを管理・監視します。"

#: ../../source/development/xinference_internals.rst:56
msgid ""
"``xinference-worker``: Starts a worker process that executes tasks assigned "
"by the supervisor, utilizing available computational resources effectively."
msgstr ""
"``xinference-"
"worker``：ワーカープロセスを起動し、利用可能な計算リソースを使用して、スーパーバイザーから割り当てられたタスクを実行します。"

#: ../../source/development/xinference_internals.rst:59
msgid ""
"Each command is equipped with ``options`` and ``flags`` to customize its "
"behavior, such as specifying log levels, host addresses, port numbers, and "
"other relevant settings."
msgstr ""
"各コマンドには ``option`` と ``flag`` "
"が付属し、ログレベル、ホストアドレス、ポート番号、その他の関連設定を指定するなど、動作をカスタマイズできます。"

#: ../../source/development/xinference_internals.rst:62
msgid ""
"Python projects define command-line console entry points in "
"``pyproject.toml``."
msgstr "Pythonプロジェクトでは、``pyproject.toml`` でコマンドラインコンソールのエントリポイントを定義します。"

#: ../../source/development/xinference_internals.rst:72
msgid ""
"The command-line ``xinference`` can be referred to code in "
"``xinference.deploy.cmdline:cli``."
msgstr ""
"コマンドライン ``xinference`` は ``xinference.deploy.cmdline:cli`` 内のコードを参照してください。"

#: ../../source/development/xinference_internals.rst:75
msgid "Click"
msgstr "Click"

#: ../../source/development/xinference_internals.rst:76
msgid "We use Click to implement a specific command-line:"
msgstr "Click を使用して特定のコマンドラインを実装します。"

#: ../../source/development/xinference_internals.rst:95
msgid ""
"For example, the ``xinference-local`` command allows you to define the host "
"address and port."
msgstr "例えば、``xinference-local`` コマンドでは、ホストアドレスとポートを定義できます。"

#: ../../source/development/xinference_internals.rst:98
msgid "Actor"
msgstr "Actor"

#: ../../source/development/xinference_internals.rst:99
msgid ""
"Xinference is fundamentally based on `Xoscar "
"<https://github.com/xorbitsai/xoscar>`_, our actor framework, which can "
"manage computational resources and Python processes to support scalable and "
"concurrent programming. The following is a pseudocode demonstrating how our "
"Worker Actor works, the actual Worker Actor is more complex than this."
msgstr ""
"Xinference は `Xoscar <https://github.com/xorbitsai/xoscar>`_ を基盤としており、Xoscar"
" は計算リソースとPythonプロセスを管理し、拡張可能な並行プログラミングをサポートするアクターフレームワークです。以下の擬似コードはWorker "
"Actorの動作原理を示しており、実際のWorker Actorはこれよりもはるかに複雑です。"

#: ../../source/development/xinference_internals.rst:126
msgid ""
"We use the ``WorkerActor`` as an example to illustrate how we build the "
"Xinference. Each actor class is a standard Python class that inherits from "
"``xoscar.Actor``. An instance of this class is a specific actor within the "
"actor pool."
msgstr ""
"``WorkerActor`` を例に、Xinference を構築する方法を説明します。各アクタークラスは ``xoscar.Actor`` "
"を継承した標準的な Python クラスです。このクラスのインスタンスがアクタープール内の特定のアクターとなります。"

#: ../../source/development/xinference_internals.rst:130
msgid ""
"**Define Actor Actions**: Each actor needs to define certain actions or "
"behaviors to accomplish specific tasks. For instance, the model inference "
"``WorkerActor`` needs to launch the model (``launch_model``), list the "
"models in this actor (``list_models``), terminate a model "
"(``terminate_model``). There are two special methods worth noting. The "
"``__post_create__`` is invoked before the actor is created, allowing for "
"necessary initializations. The ``__pre_destroy__`` is called after the actor"
" is destroyed, allowing for cleanup or finalization tasks."
msgstr ""
"**Actor の振る舞いを定義する**: "
"各アクターは、特定のタスクを完了するために特定のアクションや振る舞いを定義する必要があります。例えば、モデル推論 ``WorkerActor`` "
"はモデルの起動（``launch_model``）、アクター内のモデルの一覧表示（``list_models``）、モデルの終了（``termininate_model``）を行います。注目すべき特別なメソッドが2つあります。``__post_create__``"
" はアクター作成前に呼び出され、必要な初期化を行います。一方、``__pre_destroy__`` "
"はアクターが破棄された後に呼び出され、クリーンアップタスクを実行します。"

#: ../../source/development/xinference_internals.rst:136
msgid ""
"**Reference Actor and Invoke Methods**: When an actor is created, it yields "
"a reference variable so that other actors can reference it. The actor "
"reference can also be referenced with the address. Suppose the "
"``WorkerActor`` is created and the reference variable is ``worker_ref``,  "
"the ``launch_model`` method of this actor class can be invoked by calling "
"``worker_ref.launch_model()``. Even if the actor's method is originally a "
"synchronized method, when called with an actor reference, it will become as "
"an asynchronous method."
msgstr ""
"**Actor の参照と呼び出し方法**: Actor を作成すると、他の Actor がそれを参照できるように参照変数が生成されます。また、Actor"
" は IP アドレスを使って参照することも可能です。``WorkerActor`` が作成され、その参照変数が ``worker_ref`` "
"であると仮定すると、``worker_ref.launch_model()`` を呼び出すことで、その Actor クラスの "
"``launch_model`` を実行できます。Actor "
"内のメソッドが元々従来のブロッキング型のメソッドであっても、参照変数を使ってそのメソッドを呼び出すと、非同期メソッドに変わります。"

#: ../../source/development/xinference_internals.rst:143
msgid ""
"**Inference Engine**: The actor can manage the process, and the inference "
"engine is also a process. In the launch model part of the ``WorkerActor``, "
"we can initialize different inference engines according to the user's need. "
"Therefore, Xinference can support multiple inference engines and can easily "
"adapt to new inference engines in the future."
msgstr ""
"**推論エンジン**：Actorはプロセスを管理でき、推論エンジンも一種のプロセスである。``WorkerActor``の起動モデル部分では、ユーザーのニーズに応じて異なる推論エンジンを初期化できる。これにより、Xinferenceは複数の推論エンジンをサポートし、将来的な新しい推論エンジンにも容易に対応できる。"

#: ../../source/development/xinference_internals.rst:148
msgid ""
"See `Xoscar document <https://xoscar.dev/en/latest/getting_started/llm-"
"inference.html>`_ for more actor use cases."
msgstr ""
"`Xoscar ドキュメント <https://xoscar.dev/en/latest/getting_started/llm-"
"inference.html>`_ を参照して、Actor のユースケースの詳細を確認してください。"

#: ../../source/development/xinference_internals.rst:151
msgid "Asynchronous Programming"
msgstr "非同期プログラミング"

#: ../../source/development/xinference_internals.rst:153
msgid ""
"Both Xinference and Xoscar highly utilize asynchronous programming of "
"``asyncio``. Asynchronous programming is a programming paradigm that does "
"not block. Instead, requests and function calls are issued and executed in "
"the background and results are returned in the future. This enables us to "
"perform activities concurrently."
msgstr ""
"Xinference と Xoscar は非同期プログラミングライブラリ ``asyncio`` "
"に非常に依存しています。非同期プログラミングは、ノンブロッキングなプログラミングパラダイムです。従来のブロッキング型の関数呼び出しと比較して、非同期プログラミングではリクエストや関数呼び出しがバックグラウンドで実行され、実行結果は将来のある時点で返されます。非同期プログラミングの利点は、多くの異なるアクティビティやタスクを同時に並行して実行できることです。"

#: ../../source/development/xinference_internals.rst:159
msgid ""
"If you're not familiar with Pythons's ``asyncio``, you can see more "
"tutorials for help:"
msgstr "Python の ``asyncio`` に不慣れな場合は、詳細なチュートリアルを参照してヘルプを得てください："

#: ../../source/development/xinference_internals.rst:161
msgid ""
"`Python Asyncio Tutorial <https://bbc.github.io/cloudfit-public-"
"docs/asyncio/asyncio-part-1.html>`__"
msgstr ""
"`Python Asyncio チュートリアル <https://bbc.github.io/cloudfit-public-"
"docs/asyncio/asyncio-part-1.html>`__"

#: ../../source/development/xinference_internals.rst:163
msgid ""
"`Real Python's asyncio Tutorial <https://realpython.com/async-io-python/>`__"
msgstr ""
"`Real Python asyncio チュートリアル <https://realpython.com/async-io-python/>`__"

#: ../../source/development/xinference_internals.rst:165
msgid ""
"`Python Official Documentation "
"<https://docs.python.org/3/library/asyncio.html>`__"
msgstr "`Python 公式ドキュメント <https://docs.python.org/3/library/asyncio.html>`__"

#: ../../source/development/xinference_internals.rst:169
msgid "Model"
msgstr "モデル"

#: ../../source/development/xinference_internals.rst:171
msgid ""
"Xinference supports different types of models including large language "
"models (LLMs), image models, audio models, embedding models, etc. All models"
" are implemented in `model/ "
"<https://github.com/xorbitsai/inference/tree/main/xinference/model>`_."
msgstr ""
"Xinferenceは、大規模言語モデル（LLM）、画像モデル、音声モデル、埋め込みモデルなど、異なるタイプのモデルをサポートしています。すべてのモデルは"
" `model/ "
"<https://github.com/xorbitsai/inference/tree/main/xinference/model>`_ "
"フォルダ下で実装されています。"

#: ../../source/development/xinference_internals.rst:175
msgid "LLM"
msgstr ""

#: ../../source/development/xinference_internals.rst:177
msgid ""
"Take `model/llm/ "
"<https://github.com/xorbitsai/inference/tree/main/xinference/model/llm>`_ "
"for example, it focuses on the management and instantiation of LLMs. It "
"includes detailed implementations for loading, configuring, and deploying "
"LLMs."
msgstr ""
"`model/llm/ "
"<https://github.com/xorbitsai/inference/tree/main/xinference/model/llm>`_ "
"を例にとると、主にLLMの管理と起動を行い、大規模言語モデルのロード、設定、実行を含みます。"

#: ../../source/development/xinference_internals.rst:181
msgid ""
"We support many backends such as GGML, PyTorch, and vLLM. Our generated "
"content is compatible with the format of OpenAI, supporting features such as"
" streaming output and returning chat completion format (for chat models "
"only). Therefore, there is a lot of adaptation work to be done after the "
"model generate content. These tasks are not difficult, but they do require "
"some time. When writing this part of the code, please refer to the `OpenAI "
"API documentation <https://platform.openai.com/docs/introduction>`_ and the "
"documentation of various inference backends, and make the necessary "
"adaptations."
msgstr ""
"私たちはGGML、PyTorch、vLLMなどの異なる推論バックエンドをサポートしています。生成するコンテンツはOpenAIのフォーマットと互換性があり、例えばストリーム出力（stream）をサポートし、対話モデルはchat"
" "
"completion形式で返します。そのため、モデルがコンテンツを出力した後、多くの適合作業が必要です。これらの作業は難しくありませんが、多少の時間がかかります。この部分のコードを作成する際は、`OpenAIのAPIドキュメント"
" <https://platform.openai.com/docs/introduction>`_ "
"および各推論バックエンドのドキュメントを参照し、必要な適応を行ってください。"

#: ../../source/development/xinference_internals.rst:185
msgid "JSON"
msgstr ""

#: ../../source/development/xinference_internals.rst:187
msgid ""
"In `model/llm/llm_family.json "
"<https://github.com/xorbitsai/inference/blob/main/xinference/model/llm/llm_family.json>`_,"
" we utilize JSON files to manage the metadata of emerging open-source "
"models. Adding a new model does not necessitate writing new code, it merely "
"requires appending new metadata to the existing JSON file."
msgstr ""
"`model/llm/llm_family.json "
"<https://github.com/xorbitsai/inference/blob/main/xinference/model/llm/llm_family.json>`_"
" "
"では、JSONファイルを使用して新しく登場するオープンソースモデルのメタデータを管理しています。新しいモデルを追加する際に新しいコードを書く必要はなく、既存のJSONファイルに新しいメタデータを追加するだけで済みます。"

#: ../../source/development/xinference_internals.rst:214
msgid ""
"This is an example of how to define the Llama-2 chat model. The "
"``model_specs`` define the information of the model, as one model family "
"usually comes with various sizes, quantization methods, and file formats. "
"For instance, the ``model_format`` could be ``pytorch`` (using Hugging Face "
"Transformers or vLLM as backend), ``ggmlv3`` (a tensor library associated "
"with llama.cpp), or ``gptq`` (a post-training quantization framework). The "
"``model_id`` defines the repository of the model hub from which Xinference "
"downloads the checkpoint files. Furthermore, due to distinct instruction-"
"tuning processes, different model families have varying prompt styles. The "
"``prompt_style`` in the JSON file specifies how to format prompts for this "
"particular model. For example, ``system_prompt`` and ``roles`` are used to "
"specify the instructions and personality of the model."
msgstr ""
"これは Llama-2 チャットモデルを定義する例です。``model_specs`` "
"はモデルの情報を定義します。なぜなら、モデルファミリーは通常、異なるサイズ、量子化方法、ファイル形式を持つからです。例えば、``model_format``"
" は ``pytorch``（Hugging Face Transformers や vLLM "
"をバックエンドとして使用）、``ggmlv3``（llama.cpp に関連するテンソルライブラリ）、または "
"``gptq``（トレーニング後量子化フレームワーク）になります。``model_id`` はモデルセンターのリポジトリを定義し、Xinference "
"はモデルセンターからチェックポイントファイルをダウンロードします。また、異なる命令調整プロセスにより、モデルファミリーごとに異なるプロンプトスタイルがあります。JSON"
" ファイル内の ``prompt_style`` は、特定のモデルのプロンプト形式を指定します。例えば、``system_prompt`` と "
"``roles`` は、モデルの指示や個性を指定するために使用されます。"

#: ../../source/development/xinference_internals.rst:224
msgid "Code Walkthrough"
msgstr "コードガイド"

#: ../../source/development/xinference_internals.rst:226
msgid ""
"The main code is located in the `xinference/ "
"<https://github.com/xorbitsai/inference/tree/main/xinference>`_:"
msgstr ""
"主要コードは `xinference/ "
"<https://github.com/xorbitsai/inference/tree/main/xinference>`_ にあります。"

#: ../../source/development/xinference_internals.rst:228
msgid ""
"`api/ <https://github.com/xorbitsai/inference/tree/main/xinference/api>`_: "
"`restful_api.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/api/restful_api.py>`_"
" is the core part that sets up and runs the RESTful APIs. It integrates an "
"authentication service (the specific code is located in `oauth2/ "
"<https://github.com/xorbitsai/inference/tree/main/xinference/api/oauth2>`_),"
" as some or all endpointsrequire user authentication."
msgstr ""
"`api/ "
"<https://github.com/xorbitsai/inference/tree/main/xinference/api>`_：`restful_api.py"
" "
"<https://github.com/xorbitsai/inference/tree/main/xinference/api/restful_api.py>`_"
" は、RESTful API を設定し実行するための主要部分です。一部またはすべてのポートでユーザー認証が必要なため、認証サービス（具体的なコードは "
"`oauth2/ "
"<https://github.com/xorbitsai/inference/tree/main/xinference/api/oauth2>`_ "
"にあります）を統合しています。"

#: ../../source/development/xinference_internals.rst:233
msgid ""
"`client/ "
"<https://github.com/xorbitsai/inference/tree/main/xinference/client>`_: This"
" is the client of Xinference."
msgstr ""
"`client/ "
"<https://github.com/xorbitsai/inference/tree/main/xinference/client>`_：これはXinferenceのクライアントです。"

#: ../../source/development/xinference_internals.rst:235
msgid ""
"`oscar/ "
"<https://github.com/xorbitsai/inference/tree/main/xinference/client/oscar>`_"
" defines the Actor Client which acts as a client interface for interacting "
"with models deployed in a Xinference cluster."
msgstr ""
"`oscar/ "
"<https://github.com/xorbitsai/inference/tree/main/xinference/client/oscar>`_"
" は、Xinference内のモデルと対話するためのクライアントインターフェースであるActorクライアントを定義しています。"

#: ../../source/development/xinference_internals.rst:238
msgid ""
"`restful/ "
"<https://github.com/xorbitsai/inference/tree/main/xinference/client/restful>`_"
" implements a RESTful client for interacting with a Xinference service."
msgstr ""
"`restful/ "
"<https://github.com/xorbitsai/inference/tree/main/xinference/client/restful>`_"
" は、Xinferenceサービスと対話するためのRESTfulクライアントを実装しています。"

#: ../../source/development/xinference_internals.rst:241
msgid ""
"`core/ <https://github.com/xorbitsai/inference/tree/main/xinference/core>`_:"
" This is the core part of Xinference."
msgstr ""
"`core/ "
"<https://github.com/xorbitsai/inference/tree/main/xinference/core>`_：これはXinferenceの中核部分です。"

#: ../../source/development/xinference_internals.rst:243
msgid ""
"`metrics.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/core/metrics.py>`_"
" and `resource.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/core/resource.py>`_"
" defines a set of tools for collecting and reporting metrics and the status "
"of node resources, including model throughput, latency, the usage of CPU and"
" GPU, memory usage, and more."
msgstr ""
"`metrics.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/core/metrics.py>`_"
" および `resource.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/core/resource.py>`_"
" "
"は、指標の収集と報告、およびノードリソースの状態（モデルのスループット、レイテンシ、CPUとGPUの使用率、メモリ使用率など）のための一連のツールを定義しています。"

#: ../../source/development/xinference_internals.rst:248
msgid ""
"`image_interface.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/core/image_interface.py>`_"
" and `chat_interface.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/core/chat_interface.py>`_"
" implement `Gradio <https://github.com/gradio-app/gradio>`_ interfaces for "
"image and chat models, respectively. These interfaces allow users to "
"interact with models through a Web UI, such as generating images or engaging"
" in chat. They build user interfaces using the gradio package and "
"communicate with backend models through our RESTful APIs."
msgstr ""
"`image_interface.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/core/image_interface.py>`_"
" と `chat_interface.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/core/chat_interface.py>`_"
" は、それぞれ画像モデルとチャットモデル用に `Gradio <https://github.com/gradio-app/gradio>`_ "
"インターフェースを実装しています。これらのインターフェースにより、ユーザーはWebインターフェースを通じてモデルと対話し、例えば画像を生成したりチャットを行ったりすることができます。コードはGradioパッケージを使用してユーザーインターフェースを構築し、RESTful"
" APIを介してバックエンドのモデルと通信します。"

#: ../../source/development/xinference_internals.rst:254
msgid ""
"`worker.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/core/worker.py>`_"
" and `supervisor.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/core/supervisor.py>`_"
" respectively define the logic for worker actors and supervisor actor. "
"Worker actors are responsible for carrying out specific model computation "
"tasks, while supervisor actors manage the lifecycle of worker nodes, "
"schedule tasks, and monitor system states."
msgstr ""
"`worker.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/core/worker.py>`_"
" および `supervisor.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/core/supervisor.py>`_"
" は、それぞれ worker actor と supervisor actor のロジックを定義しています。worker actor "
"は特定のモデル計算タスクを実行する責任を持ち、supervisor actor は Worker "
"ノードのライフサイクルとタスクスケジューリングを管理し、システム状態を監視します。"

#: ../../source/development/xinference_internals.rst:259
msgid ""
"`status_guard.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/core/status_guard.py>`_"
" implements a status monitor to track the status of models (like creating, "
"updating, terminating, etc.). It allows querying status information of model"
" instances and managing these statuses based on the model's UID."
msgstr ""
"`status_guard.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/core/status_guard.py>`_"
" "
"は、モデルの状態（作成、更新、終了など）を追跡するためのステータスモニターを実装しています。これにより、モデルのUIDに基づいてモデルインスタンスの状態情報をクエリできます。"

#: ../../source/development/xinference_internals.rst:263
msgid ""
"`cache_tracker.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/core/cache_tracker.py>`_"
" defines a cache tracker for recording and managing cache status and "
"information of model versions. It supports recording cache locations and "
"statuses of model versions and querying model version information based on "
"model names."
msgstr ""
"`cache_tracker.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/core/cache_tracker.py>`_"
" "
"は、キャッシュの状態とモデルのバージョン情報を記録および管理するためのキャッシュトラッカーを定義しています。キャッシュの場所とモデルバージョンの状態を記録し、モデル名に基づいてモデルのバージョン情報を照会する機能をサポートしています。"

#: ../../source/development/xinference_internals.rst:267
msgid ""
"`event.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/core/event.py>`_"
" defines an event collector for gathering and reporting various runtime "
"events of models, such as information, warnings, and errors. `model.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/core/model.py>`_"
" defines a Model Actor, the core component for direct model interactions. "
"The Model Actor is responsible for executing model inference requests, "
"handling input and output data streams, and supports various types of model "
"operations."
msgstr ""
"`event.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/core/event.py>`_"
" は、各種ランタイムモデルのイベント（情報、警告、エラーなど）を収集・報告するためのイベントコレクターを定義しています。`model.py "
"<https://github.com/xorbitsai/inference/tree/main/xinference/core/model.py>`_"
" "
"は、モデルと直接やり取りする中核コンポーネントであるモデルアクターを定義しています。モデルアクターは、モデル推論リクエストの実行、入出力データストリームの処理、および各種モデル操作のサポートを担当します。これらの2つの部分は、いずれも並行処理および分散実行のために"
" `Xoscar <https://github.com/xorbitsai/xoscar>`_ を使用しています。"

#: ../../source/development/xinference_internals.rst:273
msgid ""
"`deploy/ "
"<https://github.com/xorbitsai/inference/tree/main/xinference/deploy>`_: It "
"provides a command-line interface (CLI) for interacting with the Xinference "
"framework, allowing users to perform operations by command line. See "
"`Command Line`_ for more information."
msgstr ""
"`deploy/ "
"<https://github.com/xorbitsai/inference/tree/main/xinference/deploy>`_：これは、Xinferenceフレームワークと対話するためのコマンドラインインターフェース（CLI）を提供し、ユーザーがコマンドラインを介して操作できるようにします。詳細については、`Command"
" Line`_ を参照してください。"

#: ../../source/development/xinference_internals.rst:276
msgid ""
"`locale/ "
"<https://github.com/xorbitsai/inference/tree/main/xinference/locale>`_: It "
"supports multi-language localization. By simply adding and updating JSON "
"translation files, it becomes possible to support more languages, improving "
"user experience."
msgstr ""
"`locale/ "
"<https://github.com/xorbitsai/inference/tree/main/xinference/locale>`_：多言語ローカライゼーションをサポートします。JSON翻訳ファイルを追加・更新するだけで、さらなる言語をサポートし、ユーザー体験を向上させることができます。"

#: ../../source/development/xinference_internals.rst:279
msgid ""
"`model/ "
"<https://github.com/xorbitsai/inference/tree/main/xinference/model>`_: It "
"provides a structure for model descriptions, creation, and caching. See "
"`Model`_ for more information."
msgstr ""
"`model/ "
"<https://github.com/xorbitsai/inference/tree/main/xinference/model>`_：モデルの説明、作成、キャッシュのためのフレームワークを提供します。詳細については、`Model`_"
" を参照してください。"

#: ../../source/development/xinference_internals.rst:282
msgid ""
"`web/ui/ "
"<https://github.com/xorbitsai/inference/tree/main/xinference/web/ui>`_: The "
"js code of the frontend (Web UI)."
msgstr ""
"`web/ui/ "
"<https://github.com/xorbitsai/inference/tree/main/xinference/web/ui>`_：フロントエンド（ユーザーインターフェース）のJavaScriptコード。"

#~ msgid ""
#~ "Xinference supports different types of models including large language "
#~ "models (LLMs), image models, audio models, embedding models, etc"
#~ msgstr ""
#~ "Xinferenceは、大規模言語モデル（LLM）、画像モデル、音声モデル、埋め込みモデルなど、さまざまなタイプのモデルをサポートしています。すべてのモデルは"
#~ " `model/ "
#~ "<https://github.com/xorbitsai/inference/tree/main/xinference/model>`_ "
#~ "で実装されています。`llm/ "
#~ "<https://github.com/xorbitsai/inference/tree/main/xinference/model/llm>`_ "
#~ "を例にとると、これはLLMの管理とインスタンス化に焦点を当てています。これには、さまざまな量子化やモデル形式の処理を含む、LLMのロード、構成、およびデプロイの詳細な実装が含まれています。`llm/"
#~ " <https://github.com/xorbitsai/inference/tree/main/xinference/model/llm>`_ "
#~ "では、`GGML "
#~ "<https://github.com/xorbitsai/inference/tree/main/xinference/model/llm/ggml>`_、`PyTorch"
#~ " "
#~ "<https://github.com/xorbitsai/inference/tree/main/xinference/model/llm/pytorch>`_、`SGLang"
#~ " "
#~ "<https://github.com/xorbitsai/inference/tree/main/xinference/model/llm/sglang>`_、`vLLM"
#~ " "
#~ "<https://github.com/xorbitsai/inference/tree/main/xinference/model/llm/vllm>`_"
#~ " などの多くのバックエンドをサポートしています。"

#~ msgid ""
#~ "Take `llm/ "
#~ "<https://github.com/xorbitsai/inference/tree/main/xinference/model/llm>`_ "
#~ "for example, it focuses on the management and instantiation of LLMs. It "
#~ "includes detailed implementations for loading, configuring, and deploying "
#~ "LLMs, including handling different types of quantization and model formats. "
#~ "In `llm/ "
#~ "<https://github.com/xorbitsai/inference/tree/main/xinference/model/llm>`_, "
#~ "it supports many backends such as `GGML "
#~ "<https://github.com/xorbitsai/inference/tree/main/xinference/model/llm/ggml>`_,"
#~ " `PyTorch "
#~ "<https://github.com/xorbitsai/inference/tree/main/xinference/model/llm/pytorch>`_,"
#~ " `SGLang "
#~ "<https://github.com/xorbitsai/inference/tree/main/xinference/model/llm/sglang>`_"
#~ " and `vLLM "
#~ "<https://github.com/xorbitsai/inference/tree/main/xinference/model/llm/vllm>`_."
#~ msgstr ""
#~ "全てのモデルは `model/ "
#~ "<https://github.com/xorbitsai/inference/tree/main/xinference/model>`_ "
#~ "に実装されています。 `llm/ "
#~ "<https://github.com/xorbitsai/inference/tree/main/xinference/model/llm>`_ "
#~ "を例にとると、LLMの管理とインスタンス化に重点を置いています。これには、LLMの読み込み、設定、デプロイの詳細な実装が含まれており、異なる種類の量子化やモデル形式の処理も含まれます。"
#~ " `llm/ "
#~ "<https://github.com/xorbitsai/inference/tree/main/xinference/model/llm>`_ "
#~ "では、`GGML "
#~ "<https://github.com/xorbitsai/inference/tree/main/xinference/model/llm/ggml>`_、`PyTorch"
#~ " "
#~ "<https://github.com/xorbitsai/inference/tree/main/xinference/model/llm/pytorch>`_、`SGLang"
#~ " "
#~ "<https://github.com/xorbitsai/inference/tree/main/xinference/model/llm/sglang>`_、`vLLM"
#~ " "
#~ "<https://github.com/xorbitsai/inference/tree/main/xinference/model/llm/vllm>`_"
#~ " などの多くのバックエンドをサポートしています。"

#~ msgid ""
#~ "All models are implemented in `model/ "
#~ "<https://github.com/xorbitsai/inference/tree/main/xinference/model>`_."
#~ msgstr ""
#~ "全てのモデルは `model/ "
#~ "<https://github.com/xorbitsai/inference/tree/main/xinference/model>`_ "
#~ "で実装されています。"

#~ msgid ""
#~ "In ``model/llm/``, it supports many backends such as GGML, PyTorch, and "
#~ "vLLM."
#~ msgstr "``model/llm/`` の下で、GGML、PyTorch、vLLMなど多くのバックエンドをサポートしています。"

#~ msgid ""
#~ "`oscar/ "
#~ "<https://github.com/xorbitsai/inference/tree/main/xinference/client/oscar>`_"
#~ " defines the Actor Client which acts as a client interface for interacting "
#~ "with models deployed in a server environment. It includes functionalities to"
#~ " register/unregister models, launch/terminate models, and interact with "
#~ "different types of models. This part heavily utilizes ``asyncio`` for "
#~ "asynchronous operations. See `Concurrency`_ for more information."
#~ msgstr ""
#~ "`oscar/ "
#~ "<https://github.com/xorbitsai/inference/tree/main/xinference/client/oscar>`_"
#~ " "
#~ "はアクタークライアントを定義しており、これはサーバー環境にデプロイされたモデルとやり取りするためのクライアントインターフェースです。モデルの登録/登録解除、モデルの起動/停止、および異なるタイプのモデルとの対話機能が含まれています。この部分では主に"
#~ " ``asyncio`` を使用して非同期操作を行います。詳細については、`Concurrency`_ を参照してください。"

#~ msgid "Concurrency"
#~ msgstr "同時実行性"

#~ msgid ""
#~ "Both Xinference and Xoscar highly utilize coroutine programming of "
#~ "``asyncio``."
#~ msgstr "Xinference と Xoscar は、いずれも ``asyncio`` を高度に活用してコルーチンプログラミングを行っています。"
