У тебя неправильный подход.
Я сам пробовал решить эту проблему для себя не так давно - решил. Я долго не мог сообразить сам механизм отображения, у меня как бы свой HUD, с этим я почти 3 месяца возился, но сообразил. Проблема была, так сказать, чисто техническая.
А насчет твоей проблемы - 100% математика - делай просто, бери координаты верхней левой точки из конфиги карты, от этой точки получай расстояние до нужных объектов, это будут мировые координаты, их делишь на scale карты из конфиги, получишь координаты карты, эти координаты отсчитываешь уже от нуля! карты.
Если, как было у меня, нужно узнать размер смещения, делишь размер своей карты на 1024(размер текстуры), это будет размер "пикселя" мини-карты.
Если пытаться тупо спроецировать 3d мир на 2D плоскость, как ты пытаешься это сделать - не получится, размер реального мира(карты) не есть 1024*1024.
Когда поймешь как это работает - всё окажется просто. Математика!