[nslim13]

ну а что мешает просто по порядку перебрать все возможные варианты и подсчитать кол-во пикселей заданных цветов в них? »

В том-то и смысл, чтоб ускорить алгоритм, чтоб он мог выполняться в реальном времени

никак не получается 100x100 из 60 пикселей. И даже квадрат из 60 пикселей — ну никак не получается. »

Заданные пиксели не обязательно должны составлять 100% заданного квадрата. Задумка такая: на экране есть объект неопределенной формы (условно модель монстра в 3d игре). Я знаю, что монстр занимает примерный размер 100х100 пикселей на экране, имеет зеленые пятна на теле и красные глаза. По этим признакам я хочу определить координаты квадрата 100х100 в который входит хотя бы, например, 10 пикселей зеленого цвета и 4 пикселя красного. Как-то так...