Простір неефективності
Слабка система має безліч способів помилитися: використати хибну модель, пропустити важливу інформацію, витратити забагато енергії або знайти правильну відповідь надто пізно. Простір усіх можливих систем величезний, але простір систем поблизу межі ефективності може бути значно вужчим.
Гіпотеза атрактора інтелекту припускає: зі зростанням можливостей системи дедалі більшу частину оптимального рішення визначають не випадковості її походження, а властивості інформації, задачі, обчислення й фізичної реальності.
Різні інтелекти можуть зближуватися не тому, що копіюють одне одного, а тому, що незалежно наближаються до тих самих меж реальності.
Рішення, пізнання, архітектура
Найслабша форма конвергенції — однаковий результат. Сильніша — поява схожих принципів пізнання: причинного моделювання, декомпозиції, прогнозування, оцінки невизначеності та самокорекції.
На межі продуктивності об’єктом оптимізації стає і фізична архітектура. Правильна відповідь, отримана за сто років, практично не еквівалентна тій самій відповіді за мілісекунду. Час, енергія, пам’ять, надійність і масштабованість стають частиною якості інтелекту.
Оптимум залишається суб’єктивним
Повна інформація про світ сама по собі не визначає вибір. Рішення залежить також від цілей, потреб, цінностей, пріоритетів і горизонту конкретного суб’єкта.
Тому атрактор не веде до єдиної універсальної моралі. Він описує зменшення відстані між тим, що система обрала б за повного розуміння власного стану й наслідків, і тим, що вона фактично здатна обчислити та реалізувати.
Сингулярність як фізична межа
У цій рамці сингулярність — не нескінченний інтелект і не просто поява надрозумного AI. Це гіпотетичний стан, у якому подальший розвиток обмежують передусім закони реальності: швидкість передачі інформації, енергетична вартість, причинність, невизначеність і обчислювальна складність.
Відкрите питання полягає в тому, чи існує загальний атрактор для широкого класу задач, чи ми побачимо лише багато локальних атракторів для різних середовищ і цілей.