# SOME DESCRIPTIVE TITLE.
# Copyright (C) 2023, Xorbits Inc.
# This file is distributed under the same license as the Xinference package.
# FIRST AUTHOR <EMAIL@ADDRESS>, 2024.
#
msgid ""
msgstr ""
"Project-Id-Version: Xinference\n"
"Report-Msgid-Bugs-To: \n"
"POT-Creation-Date: 2025-05-27 19:02+0800\n"
"PO-Revision-Date: YEAR-MO-DA HO:MI+ZONE\n"
"Last-Translator: FULL NAME <EMAIL@ADDRESS>\n"
"Language-Team: de <LL@li.org>\n"
"Language: de\n"
"MIME-Version: 1.0\n"
"Content-Type: text/plain; charset=utf-8\n"
"Content-Transfer-Encoding: 8bit\n"
"Plural-Forms: nplurals=2; plural=(n != 1);\n"
"Generated-By: Babel 2.18.0\n"

#: ../../source/user_guide/continuous_batching.rst:5
msgid "Continuous Batching"
msgstr "Chargenweise Stapelverarbeitung"

#: ../../source/user_guide/continuous_batching.rst:7
msgid ""
"Continuous batching, as a means to improve throughput during model serving, "
"has already been implemented in inference engines like ``VLLM``. Xinference "
"aims to provide this optimization capability when using the transformers "
"engine as well."
msgstr ""
"Continuous Batching ist eine wichtige Technologie in Inferenz-Engines wie "
"``VLLM``, um den Durchsatz zu erhöhen. Xinference zielt darauf ab, mit "
"dieser Technologie den Durchsatz der ``transformers`` Inferenz-Engine zu "
"steigern."

#: ../../source/user_guide/continuous_batching.rst:11
msgid "Usage"
msgstr "Verwendung"

#: ../../source/user_guide/continuous_batching.rst:14
msgid "LLM"
msgstr "Große Sprachmodelle"

#: ../../source/user_guide/continuous_batching.rst:15
msgid "Currently, this feature can be enabled under the following conditions:"
msgstr ""
"Derzeit ist diese Funktion aktiviert, wenn die folgenden Bedingungen erfüllt"
" sind:"

#: ../../source/user_guide/continuous_batching.rst:17
msgid ""
"First, set the environment variable "
"``XINFERENCE_TRANSFORMERS_ENABLE_BATCHING`` to ``1`` when starting "
"xinference. For example:"
msgstr ""
"Zunächst muss beim Starten von Xinference die Umgebungsvariable "
"``XINFERENCE_TRANSFORMERS_ENABLE_BATCHING`` auf ``1`` gesetzt werden."

#: ../../source/user_guide/continuous_batching.rst:25
msgid ""
"Since ``v0.16.0``, this feature is turned on by default and is no longer "
"required to set the ``XINFERENCE_TRANSFORMERS_ENABLE_BATCHING`` environment "
"variable. This environment variable has been removed."
msgstr ""
"Ab ``v0.16.0`` ist diese Funktion standardmäßig aktiviert. Die "
"Umgebungsvariable ``XINFERENCE_TRANSFORMERS_ENABLE_BATCHING`` muss nicht "
"mehr gesetzt werden und wurde entfernt."

#: ../../source/user_guide/continuous_batching.rst:30
msgid ""
"Then, ensure that the ``transformers`` engine is selected when launching the"
" model. For example:"
msgstr ""
"Starten Sie dann das LLM-Modell und wählen Sie die "
"``transformers``-Inferenz-Engine aus. Beispiel:"

#: ../../source/user_guide/continuous_batching.rst:66
msgid ""
"Once this feature is enabled, all requests for LLMs will be managed by "
"continuous batching, and the average throughput of requests made to a single"
" model will increase. The usage of the LLM interface remains exactly the "
"same as before, with no differences."
msgstr ""
"Sobald diese Funktion aktiviert ist, werden alle Schnittstellen des LLM-"
"Modells von dieser Funktion übernommen. Die Nutzungsweise aller "
"Schnittstellen bleibt unverändert."

#: ../../source/user_guide/continuous_batching.rst:71
msgid "Image Model"
msgstr "Bildmodell"

#: ../../source/user_guide/continuous_batching.rst:72
msgid ""
"Currently, for image models, only the ``text_to_image`` interface is "
"supported for ``FLUX.1`` series models."
msgstr ""
"Aktuell unterstützt nur die ``text_to_image`` (Text-zu-Bild) Schnittstelle "
"der ``FLUX.1`` Modellserie diese Funktion."

#: ../../source/user_guide/continuous_batching.rst:74
msgid ""
"Enabling this feature requires setting the environment variable "
"``XINFERENCE_TEXT_TO_IMAGE_BATCHING_SIZE``, which indicates the ``size`` of "
"the generated images."
msgstr ""
"Um diese Funktion zu aktivieren, muss das Bildmodell beim Start von "
"xinference die Umgebungsvariable ``XINFERENCE_TEXT_TO_IMAGE_BATCHING_SIZE`` "
"angeben, die die Größe des generierten Bildes angibt."

#: ../../source/user_guide/continuous_batching.rst:76
msgid "For example, starting xinference like this:"
msgstr "Zum Beispiel, starten Sie xinference wie folgt:"

#: ../../source/user_guide/continuous_batching.rst:83
msgid ""
"Then just use the ``text_to_image`` interface as before, and nothing else "
"needs to be changed."
msgstr ""
"Danach kann die ``text_to_image``-Schnittstelle normal verwendet werden, "
"ohne dass sonst etwas geändert werden muss."

#: ../../source/user_guide/continuous_batching.rst:86
msgid "Abort your request"
msgstr "Anfrage abbrechen"

#: ../../source/user_guide/continuous_batching.rst:87
msgid ""
"In this mode, you can abort requests that are in the process of inference."
msgstr ""
"In dieser Funktion können Sie eine laufende Inferenzanfrage elegant "
"abbrechen."

#: ../../source/user_guide/continuous_batching.rst:89
msgid "First, add ``request_id`` option in ``generate_config``. For example:"
msgstr ""
"Geben Sie zunächst die Option ``request_id`` im ``generate_config`` der "
"Inferenzanfrage an. Beispiel:"

#: ../../source/user_guide/continuous_batching.rst:98
msgid ""
"Then, abort the request using the ``request_id`` you have set. For example:"
msgstr ""
"Abbrechen Sie dann die Anfrage mit der von Ihnen angegebenen ``request_id``."
" Beispiel:"

#: ../../source/user_guide/continuous_batching.rst:106
msgid ""
"Note that if your request has already finished, aborting the request will be"
" a no-op. Image models also support this feature."
msgstr ""
"Beachten Sie, dass das Abbrechen einer Anfrage keine Wirkung hat, wenn die "
"Anfrage bereits abgeschlossen ist. Bildmodelle unterstützen diese Funktion "
"ebenfalls."

#: ../../source/user_guide/continuous_batching.rst:110
msgid "Note"
msgstr "Hinweise"

#: ../../source/user_guide/continuous_batching.rst:112
msgid ""
"Currently, for ``LLM`` models, this feature only supports the ``generate``, "
"``chat``, ``tool call`` and ``vision`` tasks."
msgstr ""
"Derzeit unterstützt diese Funktion nur die Funktionen ``generate``, "
"``chat``, ``tool call`` (Werkzeugaufruf) und ``vision`` (Multimodal) des "
"LLM-Modells."

#: ../../source/user_guide/continuous_batching.rst:114
msgid ""
"Currently, for ``image`` models, this feature only supports the "
"``text_to_image`` tasks. Only ``FLUX.1`` series models are supported."
msgstr ""
"Derzeit unterstützt diese Funktion für ``image``-Modelle nur die Aufgabe "
"``text_to_image``. Es werden nur Modelle der Serie ``FLUX.1`` unterstützt."

#: ../../source/user_guide/continuous_batching.rst:116
msgid ""
"For ``vision`` tasks, currently only ``qwen2-vl-instruct``, ``qwen2.5-vl-"
"instruct``, ``QvQ-72B-Preview``, ``glm-4v`` and ``MiniCPM-V-2.6`` (only for "
"image tasks) models are supported. More models will be supported in the "
"future. Please let us know your requirements."
msgstr ""
"Für ``vision``-Aufgaben werden derzeit nur die Modelle ``qwen2-vl-"
"instruct``, ``qwen2.5-vl-instruct``, ``QvQ-72B-Preview``, ``glm-4v`` und "
"``MiniCPM-V-2.6`` (nur für Bildaufgaben) unterstützt. Weitere Modelle werden"
" in Zukunft unterstützt. Teilen Sie uns bitte Ihre Anforderungen mit."

#: ../../source/user_guide/continuous_batching.rst:118
msgid ""
"If using GPU inference, this method will consume more GPU memory. Please be "
"cautious when increasing the number of concurrent requests to the same "
"model. The ``launch_model`` interface provides the ``max_num_seqs`` "
"parameter to adjust the concurrency level, with a default value of ``16``."
msgstr ""
"Wenn GPU-Inferenz verwendet wird, stellt diese Funktion hohe Anforderungen "
"an den Videospeicher. Daher sollte die Anzahl gleichzeitiger Anfragen an "
"dasselbe Modell vorsichtig erhöht werden. Die Schnittstelle ``launch_model``"
" bietet den optionalen Parameter ``max_num_seqs`` zur Anpassung des "
"Parallelitätsgrads, mit einem Standardwert von ``16``."
