Hvis du kikker i databladet for en LM317,
http://www-jp.national.com/ds/LM/LM117.pdf vil du se at ref. spændingen ligger mellem 1.2V til 1.3V (side 2). Det svarer til det spændingsfald der er over regulatoren.
Du vil aldrig kunne få en udgangsspænding på 11.5v - 11.8v med en indgangsspænding på kun 12V (og det er uanset hvilke modstandsværdier du vælger).
Hvis vil tager de 12V og trækker 1.3V fra er vi nede på 10.7V, så de 10.5V du måler passer fint nær vi tager hensyn til tollerance på indgangsspænding og dit måleinstrument.
Hvis du vil have en højere udgangsspænding med kun 12V ind, kan du ikke bruge en LM317. Du skal have fat i en spændingsregulator med "ultra low-drop".