El testfor lo conozco perfectamente, pero necesito que a menor distancia estés mayor sean los gases tóxicos, yo de comandos sé bastante, pero no se hacer esto

Yo creo que sería mas simple hacerlo de la siguiente manera:

• Conectas un testfor de radio "x" y radio mínimo de "y" ([x,y,z,r=x,rm=y]).
• Conectado al comando, pones un comparador que active un reloj de repetidores con un delay total de "z", para que cada "z" tiempo se active un comando de daño (veneno, daño instantáneo...).
• Conectas otro testfor con radio "y" y radio mínimo "t", conetado a otro reloj de repetidores de menor delay que el primero (ya sea por ticks de los repetidores o poniendo menos de estos bloques) o con el mismo delay pero con un comando que haga mas daño (subiendo el nivel del efecto).

Con esto consigues que cuando el jugador llegue a estar a "x" distancia de la zona tenga un daño, cuando este a "y" distancia tenga mas daño... Obviamente esto puedes seguir continuándolo indefinidamente.

---

! Aclaración: x>y>t

---

Espero haberte ayudado, si no entiendes algo avisame.
Saludos

primero decide la forma en que lo vas a hacer y despues postea otro tema

No hace falta un testfor, directamente con un Effect y coordenadas con radio es suficiente, agregar testfor es hacer mas pesado el comando y que tenga que pasar por mas, la mascara no sería mas que un TAG en la 1.9 o un scoreboard en la 1.8, que este solo aplique efecto al que tenga el mismo en 1 y que no lo aplique al tenerlo en 0, (o viceversa, lo mejor es usar 1 y 2). Este scoreboard Boolean te daría 1 punto si tienes la calabaza, y 0 si no la tienes, esto es sencillamente con un execute a jugadores que tengan el datatag de Inventory, esto es mas avazado, los datatags es lo que mas te va a costar si todavía no has ni pasado por los selectores de objetivos.

Data Tags: http://minecraft.gamepedia.com/Data_tag#Data_tags
Player Data Tags: http://minecraft.gamepedia.com/Player.dat_format

Y aquí te dejo (si comprendes ingles) lo que significa cada valor en la lista, gracias a esto sabrías si se encierra en {},[],(),"","/"/, y si son vectores como [0.0,0.0,0.0]

Nunca dejo codigos en mi post, ya que pienso que la mejor forma de aprender es investigando uno mismo, si te paso el codigo del comando hecho lo entenderías, pero algunas cosas no te terminarían de cerrar, te lo digo por experiencia. Por eso te dejo las fuentes y una explicación basica, lo mejor es que veas videos de youtube, son como profesores y se aprende mas con la practica .