Встречал проблему с обновлением java, решается банально просто на официальной странице загрузки после неудачной попытки онлайн установки появляется ссылка на полный офлайн установщик http://www.java.com/ru/download/windows_offline.jsp который без проблем устанавливается на XP SP3.

Также сталкивался с проблемой установки IE7-8 на XP SP3 если раньше все ставилось без проблем, то сейчас майкрософт вынуждает переходить на windows 7 и при попытке установить с официального сайта говорит о не поддерживаемой операционной системе, после некоторых экспериментов был найден пакет обновлений UpdatePack-XPSP3-Rus Live который без проблем ставит IE8, SP3 с данной сборки не устанавливал, а вот IE8 с ключом /ie8 устанавливал лично у людей были проблемы с доступом по ключу на сайте сбербанка, сайт просил установить хотя бы IE7.

Считаю тема будет многим интересна и стоит ее переименовать как нибудь вроде "Особенности и нюансы работы в Windows XP без поддержки" или "Обход ограничений Windows XP".

P.s. Чуть не забыл перед установкой SP3 и IE8 антивирус на время установки лучше вообще удалять, так как отключение в последнее время не помогает, они все равно пытаются контролировать важные системные объекты.