Nie sądzę, że obecnie istnieje prosta i niezawodna metoda wykrywania prostokątów w obrazie. Musisz radzić sobie z wieloma problemami, takimi jak prostokąty, które nie są dokładnie prostokątne, ale tylko w przybliżeniu, częściowymi okluzjami, zmianami oświetlenia itp.
Jednym z możliwych kierunków jest segmentacja obrazu, a następnie sprawdzenie, jak blisko jest każdy segment do bycia prostokątem. Ponieważ nie możesz zaufać swojemu algorytmowi segmentacji, możesz uruchomić go wiele razy z innymi parametrami.
Innym kierunkiem jest próba parametrycznego dopasowania prostokąta do obrazu w taki sposób, aby zmaksymalizować wielkość gradientu obrazu wzdłuż konturu.
Jeśli zdecydujesz się na podejście parametryczne, zwróć uwagę, że choć trywialnym sposobem sparametryzowania prostokąta jest lokalizacja jego czterech rogów, czyli 8 parametrów, istnieje kilka innych reprezentacji, które wymagają mniejszej liczby parametrów.
Przez niewystarczającą, masz na myśli brak wydajności, prawda? To naprawdę zależy od twojej aplikacji - chyba że robisz to dla wideo w wysokiej rozdzielczości w czasie rzeczywistym, transformacja Hough może być wystarczająco dobra. – misha