| Строка 1: |
Строка 1: |
| | {{Болванка}} | | {{Болванка}} |
| − | '''Внутренние языки LLM''' — собственные языковые структуры, создаваемые большими языковыми моделями при обучении на разных типах контента. | + | '''Внутренние языки LLM''' — языки, которым соответствуют собственные языковые структуры, создаваемые [[Большая языковая модель|большими языковыми моделями]] при обучении на разных типах [[Контент|контента]]. Эти структуры были обнаружены исследователями при изучении внутренних механизмов работы LLM и разработчиками этих моделей специально не проектировались. |
| | + | |
| | + | Одним из типов таких языковых структур являются промежуточные языковые структуры, образующиеся в языковых моделях, специализированных под перевод между текстами на многих различных [[Естественный язык|естественных языках]] и соответствующие самостоятельно выстроенному языковой моделью [[Промежуточный язык|промежуточному языку]]. Другим - языковые структуры, обнаруженные в [[Мультимодальные LLM|мультимодальных LLM]], и используемые для представления сведений о контенте разных типов, не только текстового. |
| | + | |
| | + | == Языковые структуры нейросетей == |
| | + | Термин ''языковая структура'' употребляется здесь для описания специфических структур внутренней организации [[Искусственная нейронная сеть|искусственной нейронной сети]], используемых этими сетями для [[Представление данных|представления]] сведений о языке. Найденные исследователями структуры внутренних языков LLM схожи с аналогичными, используемыми этими же моделями для представления информации о естественных языках, но не соответствуют никакому конкретному естественному языку. |
| | + | |
| | + | [[Категория:LLM]] |
| | + | [[Категория:Язык]] |