[saurn]

так форма отмены не вызывается вообще »

Да и не должна. То был просто пример действия, если форма уже есть.

нажимать на кнопку "да" на странице распаковки архивов нужно два раза »

Да потому что вы вызываете форму дважды. Первый раз глобально, для всех страниц и второй раз конкретно для страницы установки.

я вообще не пойму уже где что изменить »

Код:

procedure CancelButtonClick( CurPageID: Integer; var Cancel, Confirm: Boolean );
begin
    Confirm := False;
    Cancel := ( mrYes = CancelForm.ShowModal );

    if ( CurPageID = wpInstalling )then
      begin
          SuspendProc;
          if Cancel then
            ISDoneCancel := 1;
          ResumeProc;
      end;
end;