da123net,
если нет возможности подключиться по стандарту RGB 0-255, подключайте как HDTV 1080p, только проверьте, чтобы диапазон передаваемого сигнала для монитора не был "зарезан" до "киношного" RGB 16-235.
В том же tftest, при корректно установленных значениях яркости, контрастности и гаммы, должны различаться поля 0-4 и 98-100. Переходы в основных цветах должны быть плавными, без ступеней, разноцветия и явного "переконтраста". Если же описанная проблема наблюдается, надо смотреть в сторону обновления видеодрайвера, проверки версии видеоинтерфейса, смены видеокарты, использования переходника на другой видеоинтерфейс.