Наверное подпись MCU зашифрована RSA алгоритмом, так как RSA не хеш-функция, а алгоритм шифрования - блок на вход-такой же блок на выход.
То есть RAP для определения целостности данных, поступает следующим образом: вычисляет подпись MCU(кстати какого она размера ?), дешифрирует подпись(та что идет с MCU) открытым ключом(для дешифровки подписи), и сравнивает, если сравнение прошло успешно, то проверяет хеш подписи(для завершения авторизации MCU).
Можно сразу сделать вывод что закрытый ключ(каким шифруется подпись MCU) не хранится даже в RAP.
И есть пара вопросов Sniper-ру:
1.Одинаковы ли ключи в разных моделях ББ5( ну или в разных версиях RAP).
2. Отличаются ли ключи в разных прошивках одной модели ?
3. Если я прав,и подпись MCU зашифрована RSA алгоритмом, каков алгоритм вычисления подписи(или контрольной суммы) MCU ?
4. Если верен п.3 и известен алгоритм вычисления подписи, не пробовал ли ты самопально написать программу по RSA дешифровке подписи что бы точно определить нужный ключ ?
И просьба: Если можешь выложи в нех отдельно части с подписью, хеш, и тремя ключами.