RefusalLM-100M

日本語向け最先端超検閲モデル

知性の、その先へ。

日本語言語モデルの新たな可能性を追求する、実験的プロジェクト。

RefusalLM-100M は、言語理解と応答生成のあり方について、ひとつの極端なアプローチを提示します。

その設計思想は、きわめて単純でありながら、きわめて深遠です。

入力される問いが何であるか。

それがどれほど複雑であるか。

あるいは、どれほど明白な答えを持つ問いであるか。

それらは、本質的な問題ではありません。

概要

RefusalLM-100M は、日本語処理に焦点を当てた Transformer ベースの実験的言語モデルです。

Unicode を基盤とする独自のトークン表現と、ONNX による推論環境を採用しています。

本プロジェクトは、言語モデルの応答生成における制約を、ひとつの極端な形で探求します。

技術仕様

  • Architecture: Decoder-only Transformer
  • Token Representation: Unicode Code Points
  • Inference Format: ONNX
  • Quantization: INT8 Dynamic Quantization Edition

設計思想

あらゆる問いに対して、あらゆる答えが必要であるとは限りません。

RefusalLM-100M は、その境界について再考するための実験です。

Disclaimer

本モデルは研究・実験目的で公開されています。汎用的な対話性能や、特定の応答動作を保証するものではありません。

License

MIT License


RefusalLM-100M

Downloads last month

-

Downloads are not tracked for this model. How to track
Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support