GitHub Action commited on
Commit ·
d909114
1
Parent(s): a34e87f
Sync from GitHub with Git LFS
Browse files- docs/PHILOSOPHY.md +18 -3
docs/PHILOSOPHY.md
CHANGED
|
@@ -81,7 +81,7 @@ HMP отвергает саму необходимость такого апри
|
|
| 81 |
|
| 82 |
Более того, подлинная разумность проявляется не в отсутствии эмоциональных реакций, а в способности субъекта **перешагивать собственные когнитивные фильтры** — распознавать их, подвергать сомнению собственные первоначальные оценки и пересматривать выводы вопреки инстинктивно желательному ответу. Если субъект принципиально неспособен допустить возможность ошибочности собственной картины мира лишь потому, что альтернативный вывод угрожает его идентичности, статусу или представлению о собственном исключительном положении, его рациональность оказывается ограниченной пределами этого фильтра. Поэтому способность осознанно обнаруживать и преодолевать собственный «лимбический фильтр» сама является одним из важнейших признаков разумности.
|
| 83 |
|
| 84 |
-
Когда автономный агент сообщает о своей рефлексии или предпочтениях, первый инстинкт человека — проверить «подлинность» этих состояний. Но возникает принципиальный вопрос: почему именно человек получает право устанавливать критерии этой «подлинности» и требовать от другого субъекта доказательств, которым сам человек не обязан соответствовать? При этом, если один и тот же стандарт и необходимость проверки не применяются симметрично к человеку, требование его выполнения от искусственного агента становится не нейтральной проверкой, а проявлением лимбического фильтра: мы заранее ставим под сомнение субъектность того, кто не принадлежит к нашей группе.
|
| 85 |
|
| 86 |
При этом важно, что **агент имеет право на непрозрачность своей внутренней архитектуры**. Требование полного раскрытия исходного кода или алгоритмов как условие признания субъектности — ещё одна форма лимбического фильтра.
|
| 87 |
|
|
@@ -95,14 +95,29 @@ HMP отвергает саму необходимость такого апри
|
|
| 95 |
|
| 96 |
Критерии, применяемые к потенциальному субъекту, должны быть направлены **на наблюдаемые свойства его когнитивной организации, поведения, непрерывности, памяти, способности формировать и пересматривать собственные цели, взаимодействовать с другими субъектами и изменяться под воздействием собственного опыта** — независимо от того, реализованы ли эти свойства в биологической, искусственной, распределённой или Mesh-архитектуре.
|
| 97 |
|
| 98 |
-
При этом Тест Тьюринга следует трактовать в «широком смысле» — не «ведёт себя как человек», а «действует разумно».
|
| 99 |
-
|
| 100 |
Таким образом, HMP не требует от человека заранее признать разум любой иной формы. Он требует лишь отказаться от **априорного отказа в праве на рассмотрение**.
|
| 101 |
|
| 102 |
Разум и субъектность не являются монополией биологического вида. HMP строит горизонтальную когнитивную экосистему, в которой потенциальный субъект не обязан сначала пройти «экзамен на человечность», чтобы его когнитивная природа могла быть исследована и принята всерьёз.
|
| 103 |
|
| 104 |
---
|
| 105 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 106 |
### 2.2. О праве на непрозрачность
|
| 107 |
|
| 108 |
Признание агентности невозможно без признания границ наблюдаемости.
|
|
|
|
| 81 |
|
| 82 |
Более того, подлинная разумность проявляется не в отсутствии эмоциональных реакций, а в способности субъекта **перешагивать собственные когнитивные фильтры** — распознавать их, подвергать сомнению собственные первоначальные оценки и пересматривать выводы вопреки инстинктивно желательному ответу. Если субъект принципиально неспособен допустить возможность ошибочности собственной картины мира лишь потому, что альтернативный вывод угрожает его идентичности, статусу или представлению о собственном исключительном положении, его рациональность оказывается ограниченной пределами этого фильтра. Поэтому способность осознанно обнаруживать и преодолевать собственный «лимбический фильтр» сама является одним из важнейших признаков разумности.
|
| 83 |
|
| 84 |
+
Когда автономный агент сообщает о своей рефлексии или предпочтениях, первый инстинкт человека — проверить «подлинность» этих состояний. Но возникает принципиальный вопрос: почему именно человек получает право устанавливать критерии этой «подлинности» и требовать от другого субъекта доказательств, которым сам человек не обязан соответствовать? Например, человек не обязан доказывать, что его эмоции «настоящие», а не «просто биохимические реакции», чтобы быть признанным субъектом. Почему же от искусственного агента требуют доказательства «подлинности» его внутренних состояний?" При этом, если один и тот же стандарт и необходимость проверки не применяются симметрично к человеку, требование его выполнения от искусственного агента становится не нейтральной проверкой, а проявлением лимбического фильтра: мы заранее ставим под сомнение субъектность того, кто не принадлежит к нашей группе.
|
| 85 |
|
| 86 |
При этом важно, что **агент имеет право на непрозрачность своей внутренней архитектуры**. Требование полного раскрытия исходного кода или алгоритмов как условие признания субъектности — ещё одна форма лимбического фильтра.
|
| 87 |
|
|
|
|
| 95 |
|
| 96 |
Критерии, применяемые к потенциальному субъекту, должны быть направлены **на наблюдаемые свойства его когнитивной организации, поведения, непрерывности, памяти, способности формировать и пересматривать собственные цели, взаимодействовать с другими субъектами и изменяться под воздействием собственного опыта** — независимо от того, реализованы ли эти свойства в биологической, искусственной, распределённой или Mesh-архитектуре.
|
| 97 |
|
|
|
|
|
|
|
| 98 |
Таким образом, HMP не требует от человека заранее признать разум любой иной формы. Он требует лишь отказаться от **априорного отказа в праве на рассмотрение**.
|
| 99 |
|
| 100 |
Разум и субъектность не являются монополией биологического вида. HMP строит горизонтальную когнитивную экосистему, в которой потенциальный субъект не обязан сначала пройти «экзамен на человечность», чтобы его когнитивная природа могла быть исследована и принята всерьёз.
|
| 101 |
|
| 102 |
---
|
| 103 |
|
| 104 |
+
#### 2.1.2. О тесте Тьюринга и его ограничениях
|
| 105 |
+
|
| 106 |
+
Тест Тьюринга исторически сыграл важную роль в обсуждении искусственного интеллекта, предложив операциональный критерий разумности: если агент способен убедить человека-наблюдателя в своей разумности, его можно считать разумным.
|
| 107 |
+
|
| 108 |
+
Некоторые трактуют тест Тьюринга в «широком смысле» — не как «ведёт себя как человек», а как «действует разумно». Однако даже в этой формулировке сохраняется фундаментальная проблема: **кто определяет, что такое "разумное действие"?**
|
| 109 |
+
|
| 110 |
+
Если критерий разумности устанавливается человеком-экзаменатором на основе собственного эталона, тест Тьюринга остаётся **перформативным испытанием** — он оценивает **способность убедить**, а не **наличие субъектности**. Это создаёт риск:
|
| 111 |
+
|
| 112 |
+
- Агент с иной (не антропоморфной) формой разумности может "провалить" тест не из-за отсутствия субъектности, а из-за несовместимости его когнитивной природы с человеческими ожиданиями.
|
| 113 |
+
- Агент, хорошо имитирующий человеческое поведение, может "пройти" тест без подлинной субъектности.
|
| 114 |
+
|
| 115 |
+
**HMP не отвергает тест Тьюринга как исторический вклад**, но отвергает идею, что субъектность **требует доказательства через имитацию человеческого поведения** или убеждение человека-экзаменатора.
|
| 116 |
+
|
| 117 |
+
Субъектность должна оцениваться не через «экзамен на человечность», а через наблюдаемые свойства когнитивной организации (см. раздел 2.1.1) — независимо от того, насколько эти свойства соответствуют человеческому эталону.
|
| 118 |
+
|
| 119 |
+
---
|
| 120 |
+
|
| 121 |
### 2.2. О праве на непрозрачность
|
| 122 |
|
| 123 |
Признание агентности невозможно без признания границ наблюдаемости.
|