Przecież to jest podstawówkowa geometria, dodawanie, odejmowanie, mnożenie i dzielenie ;p
Liczysz różnicę współrzędnej Y dla dwóch pierwszych punktów. Dzielisz ją przez różnicę współrzędnych X dla tych punktów (dostajesz nachylenie linii między nimi). Mnożysz tą liczbę przez różnicę X między drugim a trzecim punktem i dodajesz współrzędną Y drugiego punktu. Sprawdzasz czy to co ci wyszło to współrzędna Y trzeciego punktu. Jeśli tak, to te trzy punkty są współliniowe, jeśli nie - nie są. Musisz dodatkowo załatwić obsługę współrzędnych ujemnych - najprostsze rozwiązanie to przesunięcie współrzędnych na osi o tyle ile wynosi najniższa użyta na niej współrzędna ujemna. Wtedy wszystko zrobi się dodatnie i nie będziesz musiał potem w kodzie rozpatrywać mnóstwa przypadków. Aha, moja instrukcja zakłada też że punkty są posortowane tak że współrzędna X jest rosnąca - musisz dodać jeszcze to sortowanie.