# SOME DESCRIPTIVE TITLE.
# Copyright (C) 2023, Xorbits Inc.
# This file is distributed under the same license as the Xinference package.
# FIRST AUTHOR <EMAIL@ADDRESS>, 2024.
#
msgid ""
msgstr ""
"Project-Id-Version: Xinference\n"
"Report-Msgid-Bugs-To: \n"
"POT-Creation-Date: 2024-06-06 17:26+0800\n"
"PO-Revision-Date: YEAR-MO-DA HO:MI+ZONE\n"
"Last-Translator: FULL NAME <EMAIL@ADDRESS>\n"
"Language-Team: de <LL@li.org>\n"
"Language: de\n"
"MIME-Version: 1.0\n"
"Content-Type: text/plain; charset=utf-8\n"
"Content-Transfer-Encoding: 8bit\n"
"Plural-Forms: nplurals=2; plural=(n != 1);\n"
"Generated-By: Babel 2.18.0\n"

#: ../../source/models/model_memory.rst:5
msgid "Model Memory Calculation"
msgstr "Modellspeichernutzung berechnen"

#: ../../source/models/model_memory.rst:7
msgid ""
"For better planning of VMEM usage, xinference provided tool for model memory"
" calculation: ``cal-model-mem``"
msgstr ""
"Um die VRAM-Nutzung besser planen zu können, bietet Xinference ein Werkzeug "
"zur Berechnung des Modell-VRAM-Verbrauchs: ``cal-model-mem``"

#: ../../source/models/model_memory.rst:9
msgid "Use algorithm from https://github.com/RahulSChand/gpu_poor"
msgstr "Der Algorithmus stammt von: https://github.com/RahulSChand/gpu_poor"

#: ../../source/models/model_memory.rst:11
msgid "Output: model_mem, kv_cache, overhead, active_mem"
msgstr "model_mem, kv_cache, overhead, active_mem"

#: ../../source/models/model_memory.rst:13
msgid ""
"Example: To calculate memory usage for qwen1.5-chat, run the following "
"command:"
msgstr ""
"Beispiel: Um den Speicherverbrauch des qwen1.5-chat-Modells zu berechnen, "
"führen Sie den folgenden Beispielbefehl aus:"

#: ../../source/models/model_memory.rst:37
msgid "Syntax"
msgstr "Syntax"

#: ../../source/models/model_memory.rst:39
#, python-brace-format
msgid "--size-in-billions {model_size}"
msgstr ""

#: ../../source/models/model_memory.rst:42
#, python-brace-format
msgid "-s {model_size}"
msgstr ""

#: ../../source/models/model_memory.rst:45
msgid ""
"Set the model size. Specify the model size in billions of parameters. Format"
" accept 1_8 and 1.8. For example, 7 for 7.0B model size."
msgstr ""
"Modellgröße einstellen. Geben Sie die Modellgröße in Milliarden Parametern "
"an. Das Parameterformat akzeptiert Formen wie 1_8 und 1.8. Zum Beispiel "
"steht 7 für eine Modellgröße von 7,0B."

#: ../../source/models/model_memory.rst:50
#, python-brace-format
msgid "--quantization {precision}"
msgstr ""

#: ../../source/models/model_memory.rst:53
#, python-brace-format
msgid "-q {precision} *(Optional)*"
msgstr "-q {precision} *(optional)*"

#: ../../source/models/model_memory.rst:56
msgid ""
"Define the quantization settings for the model. For example, Int4 for INT4 "
"quantization."
msgstr ""
"Legen Sie die Quantisierungskonfiguration des Modells fest. Beispiel: Der "
"Parameter Int4 gibt die Verwendung der INT4-Quantisierung an."

#: ../../source/models/model_memory.rst:60
#, python-brace-format
msgid "--model-name {model_name}"
msgstr ""

#: ../../source/models/model_memory.rst:63
#, python-brace-format
msgid "-n {model_name} *(Optional)*"
msgstr "-n {model_name} *(optional)*"

#: ../../source/models/model_memory.rst:66
msgid ""
"Specify the model's name. If provided, fetch model config from "
"huggingface/modelscope; If not specified, use default model layer to "
"estimate."
msgstr ""
"Geben Sie den Modellnamen an. Wenn dieser Parameter angegeben wird, wird die"
" Modellkonfiguration von huggingface/modelscope abgerufen; wenn nicht "
"angegeben, wird eine grobe Schätzung mit den Standard-Layer-Parametern "
"durchgeführt."

#: ../../source/models/model_memory.rst:70
#, python-brace-format
msgid "--context-length {context_length}"
msgstr ""

#: ../../source/models/model_memory.rst:73
#, python-brace-format
msgid "-c {context_length}"
msgstr ""

#: ../../source/models/model_memory.rst:76
msgid ""
"Specify the maximum number of tokens(context length) that your model "
"support."
msgstr "Maximale Kontextlänge des Modells festlegen."

#: ../../source/models/model_memory.rst:79
#, python-brace-format
msgid "--model-format {format}"
msgstr ""

#: ../../source/models/model_memory.rst:82
#, python-brace-format
msgid "-f {format}"
msgstr ""

#: ../../source/models/model_memory.rst:85
msgid "Specify the format of the model, e.g. pytorch, ggmlv3, etc."
msgstr "Das Format des angegebenen Modells, z. B.: pytorch, ggmlv3 usw."

#: ../../source/models/model_memory.rst:89
msgid ""
"The environment variable ``HF_ENDPOINT`` could set the endpoint of "
"HuggingFace. e.g. hf-mirror, etc. Please refer to :ref:`this document "
"<models_download>`"
msgstr ""
"Mit der Umgebungsvariable ``HF_ENDPOINT`` kann der Endpoint des HuggingFace-"
"Servers gesetzt werden. Beispielsweise kann bei schlechtem Netzwerk hf-"
"mirror als Endpoint ausgewählt werden. Weitere Informationen finden Sie in "
":ref:`diesem Dokument <models_download>`."
