Me han dicho que halle a y b en esta función p+qx-x^2 sabiendo que alcanza un valor máximo, igual a 5, para x=3. Lo intentado de todas las maneras pero no lo consigo hallar. Muchas gracias.

Alejandro, te han dado la función f(x) = -x^2 + qx + p y te piden hallar los coeficientes "q" y "p". Como dato te dicen que la función dada alcanza su máximo cuando x = 3, siendo f(3) = 5. La función que te dieron es una cuadrática, una parábola; para encontrar el máximo de una parábola hay que obtener la primera derivada de la función e igualar dicha derivada a 0. El valor de x que satisface la ecuación nos da su máximo. Vamos a utilizar esa teoría para hallar los valores que te piden. De esta forma:

f(x) = -x^2 + qx + p ........ Expresión I

siendo su primera derivada:

f '(x) = -2x + q ......... Expresión II

Para hallar el máximo debemos igualar la primera derivada a cero y despejar para x; así:

-2x + q = 0
2x = q
x = q/2 ........... Expresión III

Ahora bien, el problema nos dice que el máximo se halla en x = 3; reemplazando en la Expresión III se tiene que:

3 = q/2
q = 3 * 2
q = 6 ............ Expresión IV

Ya sabemos que el parámetro q = 6; para hallar el valor de "p" nos valemos del otro dato que te dieron, a saber, que f(3) = 5. De esta forma:

f(x) = -x^2 + 6x + p
f(3) = -3^2 + 6.3 + p = 5

Despejando p de la expresión anterior hallamos su el valor:

-3^2 + 6.3 + p = 5
p = 5 + 3^2 - 18
p = 5 + 9 - 18
p = 14 - 18
p = -4 ......... Expresión V

De esta forma el valor del parámetro p = -4 y la función buscada es:
f(x) = -x^2 + 6x - 4

Aquí tenés la gráfica que te confirma todo:
http://i51.tinypic.com/6qw7lj.png

Un cordial saludo y espero haberte ayudado.