Полигон-2

Да собственно, мой посыл касался больше архитектуры самой машинки. Ибо к примеру,

OpenVMS contains a graphical user interface (GUI), a feature that was not available on the original VAX-11/VMS system. Prior to the introduction of DEC VAXstation systems in the 1980s, the operating system was exclusively used and managed from CRT terminals, such as the VT100, which provide serial data communications and screen-oriented display features. Versions of VMS running on DEC Alpha workstations in the 1990s supported OpenGL[6] and Accelerated Graphics Port (AGP) graphics adapters.

Вот зачем нам ставить ВВ1 и вытягивать МПИ, если надо тянуть минимум AGP.
Снова очень утрированно, но это чисто для иллюстрации.
Не аппарат сделать, а потом думать как в него залить ОС и как написать драйвер к заведомо нерабочему адаптеру.
А сначала хоть чутка прикинуть, что должно получиться в итоге, и уже под это продумывать плату.

Но ISA и МПИ ведь разные шины. И как заставить ВВ1 пахать на шине ISA не меняя ничего в микропрограммном обеспечении? Думаю, что дело только в этом и ни в чем ином. Если VMS имела графическую подсистему, то уж для VGA она должна иметь драйвер, который хоть и придется перелопачивать (если открытый), но все же не с нуля писать.

Не готов это сейчас обсуждать, ибо не проратывал вопрос.
Но самый прямой и простой путь, не ставить ВВ1 вообще. Реализовав только нужный конкретно в данном применении функционал.
Вы обращали внимание, что скажем для DCJ11 есть два типа процессорных плат. С "чипсетом" из двух микросхем, кэшем и прочим блекджеком
и без "чипсета". На довольно несложной рассыпухе.
Вот примерно как то так. И вытягивать не МПИ, потому что ВВ1 ничего другого больше не умеет а потом думать как быть, а вытягивать ту шину, которая окажется удобнее.
Хватает нам периферии от ДВК? Тянем МПИ. Не хватает? Думаем что проще, прикрутить Вирджа и NE2000 к нашей плате или рожать свои собственные контролеры.
Снова утрированно, но как бы такова жизнь. По другому не получается обычно.

Я согласен, лучше использовать стандартное айбиэмовское, тем более, что его полно и оно обеспечит всё нужное

Так ничего переделывать не придётся, если планируете делать в формате полуплаты МПИ. Просто взять мпишный разъем и припаять его к исовским слотам. Можно сначала в родном варианте - с двкшными платами (всё же 32П3 была заточена только под МПИшную периферию, как и ее оригинал VAX 11/750), а уж потом на ису можно переключиться для создания более серьезной и глазу приятной конфигурации.