Сталкивался по началу с такой проблемой. Могу подсказать следующее:
0. Если подпаиваетесь ISP, то в программе выставить напряжение 2.8в или 3.3в.
1. Очень плохая пайка, либо слишком большой провод, который замыкает куда-то помимо CMD.
2. Адаптер у вас на фото не родной, чтобы окончательно исключить ошибку, лучше купить e-socket, их несколько видов под дорогие микросхемы. Смотреть в сторону адаптеров от moorc, либо же купить отдельно под корпуса с иголочкой, для того чтобы можно было замыкать тестпоинт и восстанавливать еммс.
3. В некоторых ISP подключениях нужно делать подтяжку на линии CMD и D0.
4. Можно попробовать другой метод подключения с питанием от батареи.
5. На высоких частотах нельзя использовать проволочные резисторы как на фото, потому что появляется паразитный параметр индуктивности, так же у Вас слишком много выводов закручено, это тоже может оказывать влияние. Эквивалентная схема проволочного резистора